Генеральный директор OpenAI Сэм Альтман объявил на своем посту Х вторника, что компания вскоре ослабит некоторые требования безопасности ChatGPT, что позволяет пользователям давать бота-ответы с более дружелюбным или более «по-человечески» и «проверено взрослыми» для участия в эротических разговорах.
«Мы ввели в чат довольно жесткие ограничения, чтобы быть уверенными, что мы будем защищать психическое здоровье. Мы понимаем, что это сделало его менее активным/приятным для многих пользователей, у которых не было проблем с психическим здоровьем, но, учитывая серьезные проблемы, мы хотели сделать это правильно», — сказал Альтман. «В декабре, когда мы более полно внедрим определение критериев и в соответствии с принципом «относимся к взрослым пользователям как к взрослым», мы разрешим еще больше, например, эротику для верифицированных взрослых».
Мы ввели в чат довольно жесткие ограничения, чтобы быть уверенными в том, что мы будем принимать меры по предотвращению психических заболеваний. Мы понимаем, что это сделало его менее активным/приятным для многих пользователей, у него не было проблем с психическим здоровьем банка, но, несмотря на серьезность проблем, мы хотели все исправить.
Теперь, когда у нас есть…
— Сэм Олтман (@sama) 14 октября, 2025
Anons является завершением многих месячных достижений OpenAI в решении проблемных отношений, которые возникли у некоторых неуравновешенных пользователей с ChatGPT. Альтман, кажется, объявляет о скорой победе над вирусами болезней, утверждая, что OpenAI «смягчит серьезные проблемы с болезнями организма», связанные с ChatGPT. Тем не менее, компания практически не использует доказательства этого и в настоящее время разрабатывает планы по созданию ChatGPT для участия в сексуальных чатах с пользователями. Этим летом вокруг ChatGPT, в частности, его модели GPT-4o, возникает несколько тревожных историй, предполагающих, что чат-бот с искусственным интеллектом может занести уязвимых пользователей в бредовые кроличьи норы. В одном случае казалось, что человек убежден в том, что математический гений должен спасти мир. В ответ OpenAI выступила с серией защитных функций для борьбы с подхалимажем ИИ: тенденция чат-ботов ИИ зацеплять пользователей, соглашаясь со всем, что они говорят, даже с негативным поведением. В августе OpenAI запустила GPT-5, новую модель искусственного интеллекта, которая имеет более низкий уровень подхалимажа и оснащена маршрутизатором, который может определять поведение пользователя. Месяц спустя OpenAI запустил функции безопасности для несовершеннолетних, включая систему прогнозирования возраста и возможность для родителей контролировать учетную запись своего подростка в чате. Во вторник OpenAI объявила о создании экспертного совета в области психического здоровья, который будет консультировать компанию по вопросам поведения и искусственного интеллекта.
Всего через несколько месяцев после показа этих историй OpenAI, похоже, считает, что проблемы, связанные с уязвимостями пользователей, обнаруживаются под контролем. Неясно, по-прежнему ли используются инструменты в бредовых «кроличих норах» с GPT-5. И хотя GPT-4o больше не используется в ChatGPT по умолчанию, модель искусственного интеллекта по-прежнему доступна и используется тысячами людей.
OpenAI не ответил на запрос TechCrunch о комментариях.
Введение эротики в ChatGPT является неизведанной территорией для OpenAI и вызывает более серьезные опасения по поводу того, что уязвимые пользователи будут взаимодействовать с новыми явлениями. Хотя Альтман утверждает, что OpenAI не «оптимизирован для максимального использования» и не способствует оптимизации, создание ChatGPT более эротичным, безусловно, могло бы привлечь пользователей.
Разрешение чат-ботам участвовать в романтических или эротических ролевых играх стало эффективной стратегией привлечения других поставщиков чат-ботов с искусственным интеллектом, таких как Character.AI. В компании десятки миллионов пользователей, многие из которых активно пользуются ее чат-ботами. Персонаж. В 2023 году AI сообщила, что пользователи тратят в среднем два часа в день на общение с чат-ботами. Компания также столкнулась с бобным иском по поводу того, как она обращается с уязвимыми пользователями.
OpenAI оказывает давление из-за необходимости наращивания своих приложений. В то время как ChatGPT уже использует 800 миллионов активных пользователей еженедельно, OpenAI соревнуется с Google и Meta в создании массовых потребительских продуктов на базе искусственного интеллекта. Компания также привлекла миллиарды долларов на строительство, инвестиции, которые OpenAI в конце концов должна окупить.
В то время как взрослые, конечно же, вступают в романтические отношения с чат-ботами сеньким искусственным интеллектом, они также довольно популярны среди несовершеннолетних. В новом отчете Центра демократии и технологий говорится, что 19% старшеклассников либо состоят в романтических отношениях с чат-ботом с искусственным интеллектом, либо знают друга, у которого это было. Альтман говорит, что OpenAI скоро разрешит просмотр эротики для «верифицированных взрослых». «Неясно, будет ли компания опираться на свою систему прогнозирования возраста или на какой-то другой подход для определения возраста пользователей», — говорится в сообщении. эротические черты лица. Также неясно, добавить ли OpenAI в эротику свои инструменты для создания голосов, изображений и видео с использованием искусственного интеллекта. Альтман утверждает, что OpenAI также делает чат более дружелюбным и эротичным из-за принципа компании «относиться как к взрослым пользователям, так и к взрослым». В прошлом году OpenAI перешла на более мягкую стратегию модерации контента для ChatGPT, которая делает чат-боту более снисходительным и предлагает отказ от меньшего количества. В настоящее время OpenAI обеспечила положение большего количества очков в ChatGPT, а в марте компания обновила ChatGPT, разрешив создание изображений символов напряжения с помощью искусственного интеллекта. Эти правила, по-видимому, являются попыткой повысить популярность ChatGPT среди широкого круга пользователей. Однако уязвимые пользователи ChatGPT могут воспользоваться мерами предосторожности, ограничивающими возможности чат-бота. По мере того, как OpenAI влияет на миллиарды активных пользователей в условиях нестабильности, напряжение между растущими и уязвимыми пользователями может только возрастать.
