Исследователи из Facebook заметили за своими ботами странное поведение и с удивлением поняли, что они изобрели собственный язык, который непонятен для человека. Работа ботов была прекращена.
Два механизма ИИ разговаривали между собой сначала на простом английском, но затем исследователи заметили изменения и подумали, что они говорят какую-то глупости, а оказалось, что это новый язык. ПО обучилось работать быстро, эффективно и со скрытыми мотивами (возможно).
Вообще, оба механизма являлись конкурентами, ученые назвали это «генеративной состязательной сетью». Сначала их разговор был немного измененным английским, но вскоре язык изменился до неузнаваемости, так как обычные разборчивые слова стали переставляться и становились бессмысленными предложениями.
Объяснение произошедшему нашли быстро — боты упрощали себе язык. Так делают и люди, с каждым годом делая язык все проще для собственного удобства. К примеру, очень часто сокращают слова для определенных сфер работы, вроде бирж. Боты понимали друг друга, но люди нет, точно также, как вам, скорее всего, будет непонятен разговор двух брокеров.
Илон Маск, при этом, собирается выпустить фильм об опасности ИИ. Он выступает за принятие законов, ограничивающих эту сферу. Возможно, не зря, при всех плюсах ИИ, существуют и минусы. К примеру, в прошлом году твиттер-бот компании Microsoft из девушки подростка превратился в расистку поддерживающую геноцид.
