В трёх сценариях обучения ИИ по-разному отличает правду от лжи

Константин Крестников, по словам автора канала, CTO GigaChat, описал в статье три серии экспериментов по обучению ИИ на данных с разной долей фальсификаций. При обучении на чистых данных истинные суждения, по описанию, возникают сами собой как артефакт сжатия. Если в данных намеренно заложена фальсификация по одной теме, модель полностью теряет способность различать правду и ложь.

Когда же в данных конкурируют несколько фальсификаций, модель в процессе обучения снова начинает выдавать истину. Источник один, независимого подтверждения и числовых данных о результатах в тексте нет.