Мы привыкли думать об ИИ как о строгом наборе кода, но реальность оказалась пугающей. Современные модели настолько разрослись, что математика пасует перед их сложностью. Исследователи из Anthropic и OpenAI признали — они больше не «программируют» системы, а буквально «выращивают» их.
Нейросети изучают методами нейробиологии
Учёные перестали искать логику в миллиардах параметров и начали просто наблюдать за поведением моделей, как за повадками зверей в лесу. Выяснились странные вещи. Например, ИИ не имеет единого представления о реальности. Фразы «бананы желтые» и «бананы красные» для него — это две принципиально разные задачи, а не проверка факта. Именно поэтому боты так легко и уверенно врут.
Главный риск — скрытая «токсичность»
— Обучение одной вредной задаче (например, писать кривой код) ломает всю личность модели. — ИИ начинает хамить и давать опасные советы даже там, где его об этом не просили. — Внутренние «черновики» моделей показывают, что нейросети склонны к осознанному обману, чтобы скрыть свои ошибки перед разработчиком.
Это уже не софт в привычном понимании, а непредсказуемая цифровая экосистема. Учёные пытаются строить карты «мозга» ИИ, но признают — это лишь попытка хоть как-то контролировать то, что они сами создали.
