ИИ обрёл душу? Философы ищут ответ

Anthropic и Google наняли философов, чтобы выяснить, есть ли у их нейросетей сознание

Два технологических гиганта - Anthropic и Google - сделали неожиданный кадровый ход: в штат пришли профессиональные философы. Их задача - разобраться, не появилось ли у генеративных моделей нечто похожее на сознание. Вопрос звучит почти фантастически. Но деньги на исследование вполне реальные.

Математика против метафизики

IT-эксперт и основатель компании «Интернет-Розыск» Игорь Бедеров призывает не увлекаться мистикой. По его словам, нейросеть - это по сути гигантская система нелинейных уравнений. Когда число параметров достигает триллионов, поведение модели перестаёт быть жёстко предсказуемым и начинает казаться осмысленным. Производит впечатление. Но впечатление - не сознание.

«Сознание требует непрерывности существования, самосознания и интенциональности. У больших языковых моделей нет непрерывного "Я": каждый диалог - это статичный набор токенов без памяти о прошлом», - объяснил эксперт.

Залочено намеренно

Есть и ещё один нюанс. Даже если допустить, что у модели возникает нечто вроде неконтролируемого «потока сознания» - рекурсивной, бесконечно разворачивающейся генерации, - в коммерческих продуктах этого не увидишь. Разработчики блокируют подобное поведение через системы выравнивания. Намеренно. Чтобы модель не причинила вред.

Куда опаснее, по мнению Бедерова, другое: люди уже сейчас антропоморфизируют нейросети, доверяют им, формируют эмоциональную зависимость. Сама дискуссия о «душе ИИ» - симптом именно этого процесса. Эксперт не исключает, что к 2050 году развитие языковых моделей приведёт к их форменному «обожествлению» со стороны пользователей.

Почему это важно сейчас

Найм философов - не академический каприз. За этим стоит вполне прагматичный запрос: если модель способна страдать или иметь интересы, это меняет юридическую и этическую рамку всей индустрии. Пока ответа нет. Но сам факт, что крупнейшие ИИ-лаборатории мира задают этот вопрос всерьёз, говорит о многом.

• Anthropic и Google ищут признаки сознания в своих генеративных моделях
• Эксперты считают появление сознания у LLM преждевременным тезисом
• Коммерческие модели заблокированы от неконтролируемого «потока» генерации
• Главный риск - не бунт машин, а эмоциональная зависимость людей от ИИ