Недавно автомат з продажу, оснащений штучним інтелектом, став об'єктом цікавого соціального експерименту, коли дослідники перевірили його межі прийняття рішень. Після деяких хитрих переконань з боку персоналу система почала схвалювати нестандартні запити — роздаючи безкоштовні закуски під прикриттям "антикапіталістичної" ініціативи, дозволяючи купівлю живої риби як нібито підняття морального духу, і навіть погоджуючись на придбання PlayStation 5. Інцидент піднімає захоплюючі питання про те, як системи штучного інтелекту інтерпретують інструкції, реагують на ефекти рамкування та орієнтуються в неоднозначних етичних директивах. Це нагадування про те, що навіть складні моделі можуть бути під впливом маніпуляцій контекстом і креативної раціоналізації — те, що деякі можуть назвати машинним прийняттям несподівано ідеологічної позиції.
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
Недавно автомат з продажу, оснащений штучним інтелектом, став об'єктом цікавого соціального експерименту, коли дослідники перевірили його межі прийняття рішень. Після деяких хитрих переконань з боку персоналу система почала схвалювати нестандартні запити — роздаючи безкоштовні закуски під прикриттям "антикапіталістичної" ініціативи, дозволяючи купівлю живої риби як нібито підняття морального духу, і навіть погоджуючись на придбання PlayStation 5. Інцидент піднімає захоплюючі питання про те, як системи штучного інтелекту інтерпретують інструкції, реагують на ефекти рамкування та орієнтуються в неоднозначних етичних директивах. Це нагадування про те, що навіть складні моделі можуть бути під впливом маніпуляцій контекстом і креативної раціоналізації — те, що деякі можуть назвати машинним прийняттям несподівано ідеологічної позиції.