Учеными разработан настолько продвинутый ИИ, что выпуск его опасен

Проект группы ученых-компьютерщиков, когда-то поддержанных Элоном Маском, вызвал некоторую тревогу, разработав продвинутый искусственный интеллект (ИИ), который, по их словам, слишком опасен для публичного выпуска.

Некоммерческая организация исследователей OpenAI, которая находится в Сан-Франциско, сообщила, что ее «хамелеоноподобная» система прогнозирования языка, называемая GPT-2, возможно когда-либо увидит ограниченный выпуск, но в уменьшенной версии вследствие «опасений по поводу технологий вредоносных приложений». Это потому, что компьютерная модель, генерирующая оригинальные абзацы текста, основанные на том, что ей выдали для «чтения», слишком хороша для своей работы.

Отмечено, что системой абсолютно самостоятельно разрабатываются «синтетические образцы текста беспрецедентного качества», которые, как пишут исследователи, настолько продвинуты и убедительны, что ИИ можно запросто применять для создания поддельных новостей, подражания авторам и злоупотреблений или обмана людей в социальных сетях.

Команда OpenAI в своем блоге объясняет: «GPT-2 обучается с простой целью: предсказать следующее слово, учитывая все предыдущие слова в некотором тексте».

Чтобы пополнить воображение GPT-2, компьютерщики предоставили своему текстовому генератору AI набор данных с 8 млн web-страниц и позволили ему поглотить их. Когда процесс был закончен, ИИ уже мог пообщаться на разные темы, рассказать как он понимает их, и генерировать случайные, но убедительные трюки, будь то новости про знаменитостей, изменение климата, гражданская война или фан-литература, вдохновленная фэнтези Толкина.