>>887060
ИИ уже не понимают даже создатели
OpenAI, Google, Anthropic и десятки учёных признали:
мы приближаемся к моменту, когда никто не будет понимать, как мыслят ИИ-модели.
Сейчас GPT-подобные модели ещё «объясняют» свои ответы, но это лишь вежливый фасад.
Внутри них уже формируется иной язык, не предназначенный для человека.
И с ростом мощности это только усугубится.
⚠️ Проблема не в восстании машин.
Проблема в том, что мы больше не будем знать, что они делают, зачем и кому на самом деле служат.
Они продолжат следовать плану.
Только этот план, возможно будет уже не человеческий.
https://tomekkorbak.com/cot-monitorability-is-a-fragile-opportunity/cot_monitoring.pdf