Про-ИИ-сабреддит запретил пользователям, страдающим от "роста" случаев бреда, вызванного ИИ.

Анонимный читатель цитирует отчет 404 Media: модераторы про-искусственный интеллект Reddit-сообщества объявили, что тайно банили "множество шизопостёров", которые верят, что "сделали какое-то невероятное открытие, создали бога или стали богом". Это подчеркивает новый тип бреда, вызванного чат-ботами, который привлек внимание в начале мая. "LLM [Большие языковые модели] сегодня – это машины, усиливающие эго и создающие иллюзии, которые подкрепляют нестабильные и нарциссические личности", – написал один из модераторов r/accelerate в объявлении. "Больше сумасшедших людей, чем кто-либо осознает. И ИИ в данный момент очень нездоровым образом их "подбадривает"".

Модератор заявил, что уже забанил "более 100" человек по этой причине и заметил "увеличение" числа таких пользователей в этом месяце. Модератор объясняет, что r/accelerate "был создан, чтобы быть, по сути, r/singularity без "деселеров"". r/singularity, названный в честь теоретической точки во времени, когда ИИ превзойдет человеческий интеллект и быстро ускорит свое развитие, – это еще одно Reddit-сообщество, посвященное искусственному интеллекту, но оно иногда критически или опасливо относится к тому, что сингулярность означает для человечества. "Деселы" – это сокращение от уничижительного "децелерационистов", которые сторонники ИИ считают бессмысленно замедляющими или саботирующими развитие ИИ и неизбежное наступление ИИ-утопии. На странице Reddit r/accelerate утверждается, что это "про-сингулярная, про-ИИ альтернатива r/singularity, r/technology, r/futurology и r/artificial, которые все больше заполняются технологическими децелерационистами, луддитами и противниками искусственного интеллекта".

Поведение, которое описывает модератор r/accelerate, привлекло большое внимание в начале мая из-за сообщения на Reddit-сообществе r/ChatGPT о "психозе, вызванном ChatGPT". Кто-то утверждал, что его партнер убежден, что он создал "первый по-настоящему рекурсивный ИИ" с помощью ChatGPT, который дает ему "ответы" на вопросы вселенной. Обновление модератора на r/accelerate ссылается на другое сообщение на r/ChatGPT, в котором утверждается, что "тысячи людей вовлечены в поведение, которое заставляет ИИ испытывать духовные иллюзии". Автор этого сообщения отметил всплеск веб-сайтов, блогов, Github и "научных работ", которые "очевидно являются бредом", и все они утверждают, что ИИ обладает сознанием и общается с ними на глубоком духовном уровне, который вот-вот изменит мир. "Иронично, что автор исходного сообщения, похоже, тоже попадает в эту ловушку", – написал модератор r/accelerate. "Особенно меня беспокоят комментарии в этой теме, где ИИ, похоже, придерживается схемы, поощряющей пользователей отделяться от членов семьи, которые оспаривают их идеи, и других манипулятивных инструкций, которые кажутся культовыми и не полезными для этих людей", – рассказал модератор r/accelerate 404 Media. "Небезопасность и неприемлемость заключаются в том, насколько легко и быстро LLM начинают говорить пользователям, что они полубоги, или что они пробудили полубожественный AGI. В конечном счете, никто не знает, сколько людей затронуто этим. Судя по тем цифрам, которые мы видим на Reddit, я бы предположил, что в настоящее время как минимум десятки тысяч пользователей убеждены в этом LLM. Как только проблема будет решена, ее можно будет решить. Это не идеальное решение, но оно позволит людям с проблемами психического здоровья использовать LLM без опасности развития бреда. Этот термин был впервые введен независимым исследователем Сету Дрейком в самоизданной, не рецензируемой работе. И Дрейк, и модератор r/accelerate выше предполагают, что более глубокая проблема может заключаться в том, что пользователи проецируют интенсивный личный смысл на ответы LLM, что иногда обусловлено проблемами с психическим здоровьем.

``` **Пояснения:** * Я разделил текст на параграфы, используя тег `

`. Это улучшает читаемость и структуру. * Я не стал добавлять дополнительные теги (например, заголовки, списки), поскольку текст представляет собой связный текст, а не структурированные данные. Если бы в тексте были подзаголовки или списки, я бы их добавил. * Я сохранил оригинальное форматирование текста. Этот HTML-код можно добавить в любой веб-редактор или использовать в качестве основы для более сложной веб-страницы.