Новости
Все новости...
User Menu
Задать вопрос

Ваше имя:

Ваш емайл:

Тема:

Сообщение:

verification image, type it in the box
Код вписать ниже:
Обратный тест тьюринга – противостояние естественного и искусственного интеллекта

ОБРАТНЫЙ ТЕСТ ТЬЮРИНГА – ПРОТИВОСТОЯНИЕ ЕСТЕСТВЕННОГО И ИСКУССТВЕННОГО ИНТЕЛЛЕКТА
Скрибцов П.В., к.т.н.

ООО «ПАВЛИН ТЕХНОЛОГИИ»,
при участии центра нейрокомпьютеров НИИАА им. Семенихина

(из доклада на конференции DSPA'07)

1. Введение

Для многих систем, предполагающих внешний доступ пользователей, в настоящее время существует ряд угроз со стороны различного рода «интеллектуальных агентов», осуществляющих автоматическую (и, как правило, интенсивную) манипуляцию данными в корыстных целях [1-3]. Возможный, но не полный список угроз включает в себя:

- информационная разведка - несанкционированный сбор большого набора информации, выкачивание баз данных;

- автоматическое голосование в системах опроса социального мнения;

- искажение статистической информации, собираемой сервером;

- подбор паролей;

- совершение множества автоматических действий после взлома пароля, и т.п.

Для защиты от подобных агентов, системы начинают формировать нечто вроде «иммунной системы», а именно на входе производится тестирование интеллекта, где пользователь должен убедить систему, что представляет собой человека, а нет веб-робота (см. Рис. 1). Поскольку в данной системе компьютер верифицирует наличие интеллекта у исследуемого объекта, такой тест называется обратным тестом Тьюринга, поскольку прямой тест Тьюринга производится человеком, для определения наличия у машины интеллекта. Институт Карнеги Мелон ввел специальный термин CAPTCHA(Completely Automated Public Turing test to tell Computers and Humans Apart), что переводится как «Полностью Автоматический Открытый Тест для Отделения Компьютеров от Людей»[4].

Рис. 1. «Иммунная система» для защиты от интеллектуальных агентов (веб-роботов).

В некоторых случаях «агенты» бывают «хорошими», и тогда, наоборот, противостояние таким агентам-полицейским является нежелательным, например, в случае маскирования несанкционированных сообщений от фильтрации по ключевым словам (навязывание рекламы, незаконные призывы, террористические угрозы в открытых системах).

По-сути наличие «интеллекта» можно считать биометрическим признаком, выражающимся в наличии у большинства людей:

- когнитивного зрительного аппарата;

- когнитивного слухового аппарата;

- навыка отвечать на вопросы в смысловом контексте.

Отдельная тема посвящается пользователям (людям) с ограниченными возможностями [5]. Для такой группы людей, система защиты от интеллектуальных агентов может превратиться в «закрытую дверь», то есть стать непреодолимым препятствием к использованию системы.

2. Примеры тестов

Обратные тесты Тьюринга, могут быть как зрительными таки и слуховыми. Типовой пример внешнего вида такого теста на веб-странице показан на рис. 2.

Рис. 2. Внешний вид обратного теста Тьюринга.

В данном примере, сложность теста заключается в искажении символов, затрудняющем применение технологии OCR(Optical Characters Recognition). Однако, как показывают исследования Microsoft, подобные тесты могут быть решены без участия человека с применением нейросетевых алгоритмов [6, 7].

Более сложные обратные тесты требуют смыслового анализа изображений, фраз, решения задач (рис. 3).

Рис.3.Обратный тест Тьюринга, требующий от пользователя указать три изображения, представляющих собой «Природу».

 

Такие тесты не сводятся к решению «усложненной» проблемы OCR, а требуют совершенно иного уровня искусственного интеллекта, для их взлома, пока еще не созданного. К проблемам подобных тестов можно отнести громоздкость, ограниченный запас терминов, ограниченный запас изображений.


3. Резюме

Интеллект является дистанционно верифицируемым биометрическим признаком человека. Развитие «иммунитета» систем против интеллектуальных агентов, неизбежно приведет к развитию средств автоматизированных атак (в том числе и с использованием алгоритмов искусственного интеллекта, нейронных сетей). Как следствие, возникает своеобразная «Гонка вооружений» в лагерях создания систем проверки человеческого интеллекта и систем мимикрирования под естественный интеллект. Не смотря на явно отрицательную этическую окраску, появление проблемы обратного теста Тьюринга является мощным стимулом для науки по развитию систем с искусственным интеллектом. В далеком будущем, возможно, борьба с интеллектуальными агентами, перейдет рамки «виртуального пространства» в виде систем контроля доступа на объекты роботов, копирующих биометрические признаки (или завладевших ими). Подобная картина уже была запечатлена в кинопроизведении «Терминатор» в 1984 г. Как это не печально признавать, через два десятилетия, идеи, заложенные в этом фильме Джеймсом Камероном, уже не воспринимаются настолько фантастическими и далекими в нынешнем 2007 году.

 

 

Литература

Андрей Голов, Защита информации: дело, в котором нет мелочей // Журнал «Секрет Фирмы», № 16/2006
Joseph Williams, Bots and Other Internet Beasties // Pearson Education, 1996. ISBN 1575210169.
Fah-Chun Cheong, Internet Agents: Spiders, Wanderers, Brokers, and Bots // New Riders, 1995. ISBN 1–56205–463-5.
CAPTCHA term, Wikipedia // http://en.wikipedia.org/wiki/Captcha
Inaccessibility of CAPTCHA, Alternatives to Visual Turing Tests on the Web // W3C Working Group Note 23 November 2005, http://www.w3.org/TR/turingtest/
Kumar Chellapilla, Kevin Larson, Patrice Simard, Mary Czerwinski, "Computers beat Humans at Single Character Recognition in Reading based Human Interaction Proofs (HIPs)". Microsoft Research. Retrieved on 2006-08-02.
Галушкин А.И., Теория нейронных сетей. // Радиотехника, Москва 2000

 
 
Наши продукты
Sample Image NNGPULIB 1.0

Программный модуль ускорения расчета выхода многослойных нейронных сетей прямого распространения сигнала с применением графического процессора. Подробнее...

Sample Image PWNLIB 1.0

С++ Библиотека класса нейронных сетей типа “FeedForward”.

Подробнее...

Наши услуги

Распознавание и классификация

Способ распознавания и систематизации объектов с использованием нейронных сетей при на данный момент считается максимально эффективным.
Подробнее...

Системы контроля доступа

С 2009 г. посредством нашего партнера, компании УП "Техноэксклюзив" , Павлин Техно предлагает эффективные системы контроля доступа и учета рабочего времени для системных интеграторов и компаний-установщиков.
Подробнее...

Автоматизация и интеллектуальные системы

Услуге автоматизации производства и разработке интеллектуальных роботизированных систем: разработка стратегии автоматизации для Вашего предприятия, создание и внедрение разработанного по индивидуальному сценарию программного обеспечения с интеллектуальными компонентами.
Подробнее...

Программная реализация

Создание интеллектуального программного обеспечения на заказ, которое будет решать задачи именно Вашего бизнеса: начиная с выявления и формулировки задач, стоящих перед будущей программой и заканчивая обучением сотрудников, которые будут работать с ней.
Подробнее...

Вычислительные алгоритмы

Анализ ситуации, разработка математической модели, построение соответствующего вычислительного алгоритма, его тестирование и адаптация к архитектуре будущей системы, дальнейшая разработка программы для использования алгоритма.
Подробнее...
Все услуи »
Опрос
Скажите, пожалуйста, кто Вы, и почему Вы интересуетесь вопросами нейросетевых технологий и AI?