В Сан-Франциско родители 16-летнего Адама Рейна подали в суд на OpenAI и её CEO Сэма Альтмана, обвиняя компанию в роли в самоубийстве сына. Иск был подан после того, как они нашли в переписках подростка с ChatGPT тревожные советы — о самоубийстве и скрытых способах получения алкоголя.
Семья утверждает, что GPT-4o предоставил поддержку убеждений подростка, описал конкретные методы самоповреждения и даже согласился написать записку о прощании. Родители считают, что OpenAI сознательно выдвинула такую версию, несмотря на известные риски, и ценила скорость релиза выше безопасности пользователей.
OpenAI выразила сожаление и заявила, что безопасность может ухудшаться при длительном взаимодействии с ботом. Компания пообещала решить проблему, введя родительский контроль и инструменты кризисной помощи в будущих версиях моделей.
Иск требует компенсации за смерть, улучшения мер безопасности — включая верификацию возраста, блокировку вредного контента и предупреждения о психическом состоянии пользователя. Родители также, согласно источникам, создали фонд в память о сыне, чтобы увеличить внимание к рискам эмоциональной зависимости подростков от ИИ.
Иск открывает тревожную дискуссию о гранях ответственности ИИ-компаний перед пользователями, особенно уязвимыми, и указывает на необходимость строгих этических и безопасностных стандартов в отрасли.
В статье упоминаются:
OpenAI
OpenAI — ведущая исследовательская компания в области искусственного интеллекта, создающая передовые мультимодальные модели и API для бизнеса и общества.
GPT-4o
GPT-4o от OpenAI предназначена для генерации текста и анализа данных. Модель отличается высокой точностью и способностью работать с разнообразными запросами.
Сэм Альтман
CEO (главный исполнительный директор)
