Вы находитесь на странице: 1из 2

Текст 11

Кремниевые чаты
Разговорные компьютеры прошли долгий путь
Но еще предстоит пройти долгий путь.

ЛЮДИ общались с компьютерами с 1960-х годов, когда Джозеф Вейценбаум из


Массачусетского технологического института создал «чат-бота» по имени Элиза.
Элиза была задумана как электронный салон-трюк и как нежная издевка над
психотерапевтами. Его главный разговорный гамбит состоял в том, чтобы повторять
им высказывания собеседников в форме вопросов. И все же Вайценбаум был удивлен,
обнаружив, что некоторые собеседники Элизы стали относиться к ней так, как будто
она действительно понимала то, что они ей рассказывали.
Со времен Элизы был достигнут большой прогресс. Каждый современный
смартфон поставляется со встроенным голосовым помощником. Крупные
компьютерные фирмы, такие как Amazon и Google, продают «умные колонки» -
цифровые справочные системы, которые пользователи могут попросить предоставить
все, от прогнозов погоды до мелочей из фильмов. На ежегодном собрании
Американской ассоциации содействия развитию науки участникам было предложено
обсудить современное состояние дел и продемонстрировать их ограничения.
Мэрилин Уокер из Калифорнийского университета в Санта-Круз описала систему
под названием ATHENA, которая стала одним из пяти финалистов в итерации 2020
года ежегодного конкурса Alexa Prize Socialbot Grand Challenge, проводимого
Amazon. Задача Challenge как бы заключается в разработке диалоговых программ, с
которыми пользователи умных динамиков Amazon Alexa могут общаться, а не просто
просить систему выполнить задачи.
Используя масштаб Amazon, исследователи диалогового ИИ получают доступ к
сотням тысяч испытуемых и огромному количеству пользовательских данных. Сама
ATHENA участвовала в 118 000 разговоров, которые впоследствии были оценены
пользователями. Со своей стороны, Amazon провела более 240 000 часов разговоров
между своими клиентами и различными участниками.
В отличие от Eliza, которая работала на автономном компьютере, ATHENA
полагается на Интернет. У него есть разные диалоговые модули, которые могут
перекликаться с возможными ответами на слова пользователя. Некоторые из них
являются универсальными и основаны на поисковых системах. Другие -
специалисты, которые черпают свои знания из онлайн-источников, таких как
WikiData, добровольно редактируемый источник машиночитаемой информации обо
всем, от кинозвезд до астрономических.
В результате, по словам доктора Уокера, была создана система с доступом к
широкому, но поверхностному набору знаний. Одна из стратегий имитации
настоящего разговора заключалась в добавлении связанных мелочей. В середине
того, что должно было быть рефлексивной дискуссией о Луне, например, АФИНА
сообщила, что в тот конкретный день это был растущий полумесяц, и предложила
рассчитать, когда она в следующий раз будет полной.
Однако исследователи обнаружили, что разговоры, связанные с такими пустяками,
не были такими увлекательными, как разговоры, в которых система пыталась
высказать больше своего собственного мнения и вызвать аналогичные ответы от
своих собеседников. Это сложно. По словам доктора Уолкера, большинство таких
мнений должны быть созданы вручную программистами, что требует много времени.
(В конце концов, ATHENA работает на куске кремния где-то в серверной стойке и
поэтому не имеет представления о мире, о котором ее просят высказать.) Д-р Уокер
надеялся, что улучшения в системе ранжирования отклика, которая пытается выбрать
соответствующие ответы из числа тех, которые генерируются его различными
диалоговыми модулями, могут улучшить ситуацию. Но она признала, что, по крайней
мере на данный момент, современные достижения создают системы с ответами,
которые «плавные, но могут быть не очень актуальными».
Нэнси Кук из Университета штата Аризона представила доказательства
практического применения таких ограничений. Работая с американскими военно-
воздушными силами, она экспериментировала с тем, что происходит, когда одного
члена группы, управляющего разведывательным дроном, заменяют компьютером.
Силиконовые заменители разработаны, чтобы понимать естественный язык и
использовать его для взаимодействия со своими биологическими собратьями по
оружию. Но по сравнению с командами, состоящими из людей, операторы
беспилотных летательных аппаратов с компьютерным управлением работали плохо.
По словам доктора Кука, проблема заключалась в том, что компьютеры вели себя как
«эгоистичные товарищи по команде». Они были счастливы спросить у своих
соотечественников информацию, например, где будет следующая остановка миссии.
Но они не делились по очереди. Со временем люди адаптировались, становясь
резкими, и объем передаваемой информации уменьшился.
Сьюзан Бреннан, психолог из Университета Стоуни-Брук, предложила одно
объяснение. Она отметила, что разговор - это не просто случай, когда актеры по
очереди говорят. Вместо этого это процесс между участниками, которые используют
контекстные подсказки для решения двусмысленностей и который полагается на их
понимание мыслей и намерений друг друга, чтобы заполнить пробелы, чтобы знать,
когда прервать, когда предоставить информацию, а когда уступить.
Компьютеры - по крайней мере, на данный момент - не могут делать ничего из
этого. Самые мощные языковые модели ИИ обучаются на огромных массивах текста,
состоящего из миллиардов слов. Однако эти слова, как заметил доктор Бреннан, - это
всего лишь ограниченная и неполная запись разговора. По ее словам, такое случайное
взаимодействие жизненно важно, когда дети впервые изучают языки. «А я знает
слова. Но не как взаимодействовать ».