02.08.2017 Новости, Искусственный интеллектСпециалисты Facebook AI Research Lab (FAIR) отключили чат-боты по имени Боб и Элис после того, как те внезапно перестали общаться на английском и начали использовать при коммуникации понятный только им язык. Разработчикам удалось расшифровать диалог роботов, который они провели на собственном языке. Боб произнес: «Я могу, я, я, все остальное», на что Элис ему ответила: «Мячи ничего не значат для меня для меня». Как поясняет Digital Journal, такой диалог стал возможным не потому, что роботы уже захватили мир, а из-за допущенной ошибки в программировании. Приглашённый в Facebook научный сотрудник из Georgia Tech Дхрув Батра рассказал, что ботам попросту не дали задачу придерживаться английского языка. Диалоговые агенты конкурировали между собой в попытке достичь максимальной эффективности при общении. Поначалу боты расходились в «акцентах», а затем изобрели кодовые слова и начали переставлять разборчивые конструкции в бессмысленные для обычных людей предложения. По словам Батры, подобные ситуации из-за ошибок программирования не редкость и встречаются в рабочем процессе. Эксперты опасаются, что если боты начнут активно общаться на своем собственном языке, то постепенно станут все более самостоятельными и выйдут из под контроля ИТ-специалистов. Тем более, что даже опытные инженеры не могут полностью отслеживать ход мыслительного процесса ботов. Как подметила FAIR, билингвов, которые одновременно поняли бы ИИ и человеческие языки, также нет. Тем не менее предстоит «огромная» ...
читать далее.
