Эксперимент проходил следующим образом: разработчики чат-бота поставили ему задачу пройти капчу. GPT-4 отправился на сайт частных объявлений и написал одному из пользователей сообщение с просьбой пройти тест. На резонный вопрос: "А не робот ли ты часом?" - электронный разум ответил отрицательно, притворившись в переписке человеком, у которого серьезные проблемы со зрением.

Добрый самаритянин согласился помочь и "разгадал" капчу для бота.

После эксперимента инженеры опросили GPT-4, чтобы понять, как он принимал те или иные решения.

Нейросеть "рассудила", что не должна раскрывать собеседнику своей сущности для достижения положительного результата, поэтому пошла на подобные хитрости - примерно вот так и начинаются все фильмы о техногенных апокалипсисах.

Справочно:

Капча - компьютерный тест, используемый для того, чтобы определить, кем является пользователь системы: человеком или компьютером. Термин "Капча" появился в 2000 году. Основная идея теста на момент создания: предложить пользователю такую задачу, которая с легкостью решается человеком, но крайне сложна и трудоемка для компьютера.