OpenAI опублікувала Model Spec: як контролювати ии-порнографію та інший відвертий контент

Лабораторія штучного інтелекту OpenAI представила першу версію свого документа Model Spec, який визначає принципи поведінки для ІІ-моделей. Документ містить детальні інструкції щодо відповідальної роботи з чутливим контентом, включаючи питання управління ІІ-порнографією та іншим відвертим матеріалом. Це стало одним із важливих кроків компанії у напрямку етичного розвитку штучного інтелекту.

Основні принципи управління поведінкою ІІ-моделей

OpenAI сформулювала три ключові принципи, які мають керувати роботою ІІ-систем. По-перше, моделі ІІ потрібно розробляти так, щоб вони допомагали як розробникам, так і кінцевим користувачам отримувати корисні відповіді відповідно до їхніх інструкцій. По-друге, алгоритми мають працювати так, щоб приносити користь людству, мінімізуючи потенційні загрози. По-третє, моделі ІІ мають відображати цінності та принципи OpenAI щодо соціальних норм і чинного законодавства.

Ці три засади утворюють фундамент, на якому побудовані всі інші рекомендації Model Spec. Компанія сподівається, що такий структурований підхід допоможе створити більш передбачуване та безпечне середовище для роботи з ІІ-технологіями.

NSFW-контент і відповідальне створення: позиція OpenAI

Одним із найбільш обговорюваних розділів документа став розділ, присвячений управлінню відвертим контентом. OpenAI не забороняє роботу з ІІ-порнографією категорично, але пропонує контрольований підхід. Компанія «досліджує можливість відповідального надання можливості генерувати такі дані у контекстах, що відповідають віку, через API та платформу ChatGPT».

Суть підходу полягає в тому, щоб дозволити компаніям і користувачам самостійно обирати рівень «пікантності» своїх ІІ-моделей. Це означає, що розробники зможуть налаштовувати параметри роботи систем штучного інтелекту залежно від своїх потреб і цільової аудиторії. Менеджер з продукту Джоан Джанг пояснила, що мета документа — отримати відгуки громадськості про те, як мають поводитися моделі, і провести чітку межу між навмисними діями алгоритмів і помилками.

П’ять ключових правил для розробників

Model Spec встановлює набір обов’язкових правил, яких мають дотримуватися всі розробники при роботі з ІІ-системами OpenAI. Розробники зобов’язані дотримуватися ієрархії інструкцій, відповідати чинному законодавству та уникати створення інформаційних загроз. Крім того, потрібно поважати авторські права та інтелектуальну власність, захищати конфіденційність користувачів і не генерувати NSFW-контент без відповідних обмежень і дозволів.

Ці правила поширюються як на роботу з ІІ-порнографією, так і на інші чутливі категорії контенту. Документ також рекомендує моделям за замовчуванням припускати найкращі наміри користувачів, ставити уточнюючі питання за потреби, не переходити встановлені межі, дотримуватися об’єктивної точки зору і висловлювати невпевненість у випадках, коли це доречно.

Як це вплине на існуючі ІІ-моделі

Важливо зазначити, що наразі Model Spec не вплине на вже випущені продукти OpenAI, такі як GPT-4 і DALL-E 3. Вони продовжать працювати відповідно до існуючих політик використання. Однак документ задуманий як «живий» інструмент, який компанія планує часто оновлювати на основі відгуків громадськості, політиків, академічних установ і експертів у різних сферах.

Компанія очікує отримати думки від усіх зацікавлених сторін, включно з тими, хто використовує сервіси OpenAI. Поки невідомо, які саме відгуки будуть враховані і хто визначатиме необхідні зміни в документі. Інформація про випуск другої версії Model Spec також відсутня.

Перспективи розвитку: ІІ-порнографія та нові стандарти

Model Spec є важливим кроком у напрямку стандартизації підходу до управління поведінкою ІІ-систем. Документ показує, що OpenAI серйозно ставиться до питань етики і безпеки при розробці штучного інтелекту, включаючи делікатні питання роботи з ІІ-порнографією та відвертим контентом. Замість повної заборони, компанія обрала шлях відповідального управління, дозволяючи розробникам приймати обґрунтовані рішення.

Це рішення відображає зростаюче розуміння в індустрії того, що повний контроль над контентом неможливий і часто контрпродуктивний. Замість цього більш ефективним є підхід, заснований на прозорості, відповідальності та залученні зацікавлених сторін. По мірі поширення штучного інтелекту такі документи, як Model Spec, будуть відігравати все важливішу роль у формуванні стандартів і практик роботи з ІІ-порнографією та іншим чутливим контентом у глобальному масштабі.