Ученые научили роботов врать
В 75% случаев им удается обманывать других роботов


Технологический институт Джорджии представил прототип робота, который способен специально вводить в заблуждение других роботов. Наработки будут использоваться как в военной сфере, так и в других областях.

Робот обманывает робота-врага, пуская его по ложному следу, и прячется, чтобы не быть пойманным. Хотя все это походит на сцену из одного из фильмов о Терминаторе, на деле это реальный эксперимент, проводимый американскими робототехниками.

Исследователи сосредоточились на действиях, «представлениях» и коммуникациях робота, пытающегося скрыться от противника, чтобы написать алгоритмы, которые успешно воспроизводили бы его обманчивое поведение. В первую очередь робот должен распознать ситуацию, в которой нужно обманывать, по двум ключевым условиям: наличие конфликта между роботом-обманщиком и роботом, который его ищет, и безусловное извлечение выгоды из обманных действий.

Чтобы проверить свои алгоритмы, исследователи провели в общей сложности 20 экспериментов с участием двух автономных киборгов. Во время опытов черный робот под названием WowWees Rovio, похожий на большого жука, к примеру, преднамеренно сбивал красный колпачок, чтобы обмануть своего красного коллегу, заставляя его думать, что он скрылся в коридоре, в то время как на самом деле схоронился в коробке буквально «под носом» у преследователя.

Робот, который прятался, сумел обмануть ищущего в 75% испытаний. Результаты эксперимента не были безупречны, но они показали, что алгоритмы могут работать в условиях, приближенных к реальным. Кроме того, разработчики убедились, что роботы-обманщики имеют явное преимущество с точки зрения качества достигаемых результатов по сравнению с роботами, которые хитрить не умеют.

При этом они не исключают, что подобные достижения могут использоваться во вред и применяться для обмана людей, чтобы принести им неприятности, что называется, в мирной жизни.

«В будущем методы для обмана будут развиваться, и потому в автоматизированных системах может быть заложена потенциальная возможность для их неэтичного поведения. Поэтому мы всячески поддерживаем дискуссию об этике роботов для определения принципов, которых должны придерживаться их проектировщики», сообщил РБК daily один из авторов технологии, профессор Технологического института Джорджии Рональд Аркин.

Американские робототехники отмечают, что крайне важно, чтобы эти меры были приняты заранее, а не в качестве реакции на уже произошедшие злоупотребления. Только в этом случае можно будет гарантировать, что роботы будут создаваться в полном соответствии с ожиданиями общества.

Хотя сама работа спонсируется Офисом военно-морских исследований научно-исследовательской структурой военно-морского флота США, в будущем механические существа, способные к обману, могут применяться в нескольких областях причем как в военных целях, так и, например, для проведения спасательных операций.

В последнем случае робот, возможно, должен уметь и обманывать, чтобы успокоить паникующую жертву и заручиться ее доверием. Ну а боевые роботы во время военных операций смогут прятаться и вводить врага в заблуждение, чтобы не быть уничтоженными и сохранить ценную информацию. Наделять способностью к обманному поведению «социальных» бытовых роботов, которые общаются с детьми и пожилыми людьми, по понятным причинам не планировалось и не планируется.


АНДРЕЙ СЕРДЕЧНОВ

http://www.rbcdaily.ru/2010/09/13/cnews/510085