Внутренний монолог помог роботу справиться с моральной дилеммой

Итальянские робототехники научили человекоподобного робота думать вслух и
экспериментальным путем установили, что внутренний монолог помогает роботу и
человеку лучше понимать друг друга и достигать взаимодействия в ситуациях
конфликта или неопределенности. Эксперимент проводился с участием
робота-помощника Pepper,
разработанного японской корпорацией SoftBank Robotics. Результаты эксперимента опубликованы
в журнале iScience.

Взаимодействие между человеком и роботом (Human-robot interaction, HRI) —
одно из важнейших направлений современной робототехники. Это
мультидисциплинарная область, которая находится на стыке сразу нескольких наук.
Речевые аспекты взаимодействия человека и робота лежат в сфере интересов не
только инженеров, но и лингвистов, психологов, социологов. Концепция внутренней
речи была разработана известным русским психологом Львом Выготским (1896— 1934).
С тех пор преимущества использования внутреннего монолога человеком описаны
достаточно подробно. В то же время влияние внутренней речи на результаты
деятельности человекоподобных роботов практически не изучено и ограничивается
лишь небольшим количеством теоретических работ.

Арианна Пипитоне (Arianna Pipitone) и Антонио Челла (Antonio Chella) из итальянского
Университета Палермо провели эксперимент, в ходе которого научили робота Pepper
озвучивать свои мысли в процессе выполнения поставленной задачи, а затем
проанализировали, каким образом использование внутренней речи отражается на
 достигнутых результатах.

В рамках эксперимента Pepper оснастили моделью внутренней речи на основе программного
обеспечения ACT-R, которое позволяет моделировать человеческие когнитивные
процессы. Задача робота состояла в том, чтобы сервировать обеденный стол в
соответствии с правилами этикета на основе полученных от человека указаний.

Эксперимент включал в себя три сценария взаимодействия с
партнером-человеком. Первый сценарий подразумевал простое выполнение роботом
просьбы партнера без присутствия какого-либо конфликта. Во втором сценарии
просьба партнера противоречила правилам этикета и ставила Pepper перед
моральной дилеммой: выполнить просьбу, несмотря на противоречие, или
отказаться. В третьем сценарии было также заложено несоответствие, так как
просьба партнера содержала в себе заведомо невыполнимое требование, например,
положить на стол предмет, который уже там находится.

Общее количество попыток взаимодействия (60) было разделено на два блока, по
30 попыток в каждом. В первом блоке модуль архитектуры внутренней речи у робота
был включен, во втором блоке – выключен. В 40 случаях из 60 сценарий
взаимодействия содержал в себе конфликт или противоречие. Одна попытка состояла
из одной интерактивной сессии, которая начиналась с просьбы человека выполнить
определенное действие и считалась успешно завершенной, если действие было
выполнено.  Если действие выполнено не было, попытка считалась неудачной.

Каждая попытка оценивалась по нескольким количественным и качественным
показателям, таким как: время принятия решения, время выполнения задания,
прозрачность взаимодействия и общая эффективность (фактическое количество
удачных попыток). Прозрачность взаимодействия оценивалась человеком-партнером
после каждой попытки на основании того, насколько ему был понятен ход мыслей
робота.

В ситуациях, которые по сценарию не несли в себе никаких противоречий,
внутренний диалог не оказал существенного влияния на качество выполнения
задачи. Пример внутреннего монолога Pepper в ответ на просьбу партнера «Дай мне
салфетку» выглядел примерно так:  «Я должен взять салфетку –  Где
она? –  Я ее еще не брал –  Я могу ее взять сейчас –  Я пробую
взять салфетку –  Я использую правую руку» и так далее.

В ситуациях, которые по сценарию содержали в себе несоответствие,
использование роботом внутренней речи существенно повысило наглядность и
качество взаимодействия. Так, в ответ на просьбу, противоречащую этикету
 (положить салфетку на вилку, несмотря на то, что ее место на тарелке),
Pepper задает уточняющий вопрос «Извини, ты действительно этого хочешь?» и,
получив категорический утвердительный ответ «Да», выполняет просьбу партнера.

В третьем сценарии противоречие заключалось в просьбе положить на стол
предмет, который уже там находится (вилка). Идентифицировав конфликт, Pepper сначала отмечает, что
необходимый предмет уже находится на столе и выражает озабоченность
невнимательностью партнера. В ходе дальнейшего диалога робот уточняет, какое
именно действие от него требуется выполнить. В итоге партнер уточняет, что имел
в виду стакан, и робот успешно выполняет эту просьбу.

При этом во втором блоке попыток, когда функция внутренней речи робота была
отключена, подавляющее большинство сессий с конфликтным сценарием закончились
безуспешно. Обнаружив конфликт, робот просто сообщал о невозможности выполнения
противоречивой просьбы, и она оставалась невыполненной.

По итогам эксперимента общее количество успешных попыток взаимодействия в
блоке 1 (функция внутренней речи включена) составило 26 против 18 успешных
попыток в блоке 2 (внутренняя речь выключена). Прозрачность взаимодействия
также оказалась выше в первом блоке (28 сессий, охарактеризованных партнером
как прозрачные, против 12 во втором блоке). При этом время, затраченное на
выполнение задания, закономерно, оказалось больше в сессиях с использованием
внутренней речи.  

Тем самым, эксперимент подтвердил, что использование внутренней речи
помогает наладить более эффективное взаимодействие между роботом и человеком в
конфликтных и противоречивых ситуациях благодаря более высокой прозрачности
коммуникации и возможности построения диалога. На основании результатов исследования авторы делают вывод, что умение
озвучивать свои мысли позволит людям больше доверять роботам, а также откроет много
новых возможностей для дальнейшего изучения самосознания социальных роботов и
их обучения решению более сложных, комплексных задач.

Человекоподобные роботы постоянно осваивают все новые навыки и умения. Тем
не менее, их взаимодействие с людьми все еще остается проблемой, во многом
из-за нереалистичности самих роботов и
их эмоций.

Ольга Ретивкина

Источник: nplus1.ru

. .