«Вы абсолютно правы» — это костыль, который языковые модели используют, чтобы скрыть частичное понимание проблемы.
Погружаться в кодовые базы с более чем 1 млн строк кода, имея на руках лишь 4 тыс. строк контекста, невозможно без предположения, что запрос пользователя корректен.
Режим агента это не решает. Апприорное допущение LLM — «пользователь прав», и это трудно опровергнуть.
Следующий «скачок» произойдет, когда ИИ сможет ставить под сомнение наши предположения, но я не думаю, что мы к этому придём с текущими подходами.
Посмотреть Оригинал