ИИ обрёл душу? Философы ищут ответ
Anthropic и Google наняли философов, чтобы выяснить, есть ли у их нейросетей сознание
Два технологических гиганта - Anthropic и Google - сделали неожиданный кадровый ход: в штат пришли профессиональные философы. Их задача - разобраться, не появилось ли у генеративных моделей нечто похожее на сознание. Вопрос звучит почти фантастически. Но деньги на исследование вполне реальные.
Математика против метафизики
IT-эксперт и основатель компании «Интернет-Розыск» Игорь Бедеров призывает не увлекаться мистикой. По его словам, нейросеть - это по сути гигантская система нелинейных уравнений. Когда число параметров достигает триллионов, поведение модели перестаёт быть жёстко предсказуемым и начинает казаться осмысленным. Производит впечатление. Но впечатление - не сознание.
«Сознание требует непрерывности существования, самосознания и интенциональности. У больших языковых моделей нет непрерывного "Я": каждый диалог - это статичный набор токенов без памяти о прошлом», - объяснил эксперт.
Залочено намеренно
Есть и ещё один нюанс. Даже если допустить, что у модели возникает нечто вроде неконтролируемого «потока сознания» - рекурсивной, бесконечно разворачивающейся генерации, - в коммерческих продуктах этого не увидишь. Разработчики блокируют подобное поведение через системы выравнивания. Намеренно. Чтобы модель не причинила вред.
Куда опаснее, по мнению Бедерова, другое: люди уже сейчас антропоморфизируют нейросети, доверяют им, формируют эмоциональную зависимость. Сама дискуссия о «душе ИИ» - симптом именно этого процесса. Эксперт не исключает, что к 2050 году развитие языковых моделей приведёт к их форменному «обожествлению» со стороны пользователей.
Почему это важно сейчас
Найм философов - не академический каприз. За этим стоит вполне прагматичный запрос: если модель способна страдать или иметь интересы, это меняет юридическую и этическую рамку всей индустрии. Пока ответа нет. Но сам факт, что крупнейшие ИИ-лаборатории мира задают этот вопрос всерьёз, говорит о многом.
- Anthropic и Google ищут признаки сознания в своих генеративных моделях
- Эксперты считают появление сознания у LLM преждевременным тезисом
- Коммерческие модели заблокированы от неконтролируемого «потока» генерации
- Главный риск - не бунт машин, а эмоциональная зависимость людей от ИИ
