Агентов становится все больше, автоматизация — все сильнее,
по-настоящему тревожить начинает не то, «что он может делать», а то: он ошибся, кто сможет объяснить? Кто возьмёт ответственность?
Именно поэтому я всегда считал, что направление @inference_labs очень правильное. Не в погоне за более яркой автономией, а в том, чтобы поставить проверяемость и ответственность на первый план. Чтобы система не выглядела так, будто она «работает», а чтобы каждый шаг оставлял след, его можно было проанализировать, оспорить.
Это станет еще важнее к 2026 году. Потому что, когда автономия действительно начнет принимать решения, неясные, черные ящики, системы, основанные на доверии, рано или поздно начнут давать сбои.
Правильное отношение должно быть таким: сначала четко определить базовые правила, а уже потом говорить о масштабах, эффективности и воображении.
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
Агентов становится все больше, автоматизация — все сильнее,
по-настоящему тревожить начинает не то, «что он может делать»,
а то: он ошибся, кто сможет объяснить? Кто возьмёт ответственность?
Именно поэтому я всегда считал, что направление @inference_labs очень правильное.
Не в погоне за более яркой автономией,
а в том, чтобы поставить проверяемость и ответственность на первый план.
Чтобы система не выглядела так, будто она «работает»,
а чтобы каждый шаг оставлял след, его можно было проанализировать, оспорить.
Это станет еще важнее к 2026 году.
Потому что, когда автономия действительно начнет принимать решения,
неясные, черные ящики, системы, основанные на доверии, рано или поздно начнут давать сбои.
Правильное отношение должно быть таким:
сначала четко определить базовые правила,
а уже потом говорить о масштабах, эффективности и воображении.