Поштовх OpenAI’s ChatGPT Health піднімає питання щодо безпеки даних

Коротко

• OpenAI повідомляє, що ChatGPT Health почне запускатися для обраних користувачів вже цього тижня, а ширший доступ планується у найближчі тижні.
• Функція зберігає медичні розмови окремо від інших чатів і не використовує їх для тренування моделей OpenAI.
• Захисники приватності попереджають, що дані про здоров’я, поділені з інструментами штучного інтелекту, часто виходять за межі медичних законів США.

У середу OpenAI оголосила про нову функцію в ChatGPT, яка дозволяє користувачам підключати медичні записи та дані про добробут, викликаючи занепокоєння серед деяких експертів та правозахисних груп щодо використання особистих даних. Гігант штучного інтелекту з Сан-Франциско, Каліфорнія, повідомив, що інструмент, названий ChatGPT Health, розроблений спільно з лікарями, призначений для підтримки догляду, а не для діагностики або лікування захворювань. Компанія позиціонує його як спосіб допомогти користувачам краще розуміти своє здоров’я. Для багатьох користувачів ChatGPT вже став основною платформою для питань щодо медичної допомоги та психічного здоров’я. 

OpenAI повідомила Decrypt, що ChatGPT Health ділиться лише загальною, «фактичною медичною інформацією» і не надає «персоналізованих або небезпечних медичних порад». Для питань високого ризику він надаватиме загальну інформацію, позначатиме потенційні ризики та заохочуватиме людей звертатися до фармацевта або медичного працівника, який знає їхню конкретну ситуацію. Цей крок був зроблений незабаром після того, як у жовтні компанія повідомила, що понад 1 мільйон користувачів щотижня обговорюють суїцид із чатботом. Це становило приблизно 0,15% від усіх користувачів ChatGPT на той час. Хоча ці цифри відображають відносно невелику частку загальної аудиторії, експерти кажуть, що більшість з них матимуть питання щодо безпеки та конфіденційності даних.

«Навіть коли компанії заявляють про заходи щодо приватності, споживачі часто не мають реальної згоди, прозорості або контролю над тим, як використовуються, зберігаються або перепрофілюються їхні дані», — сказав J.B. Branch, представник Public Citizen з питань відповідальності великих технологій, Decrypt. «Дані про здоров’я є особливо чутливими, і без чітких юридичних обмежень та обов’язкового контролю самостійно запроваджені заходи захисту просто недостатні для захисту людей від зловживань, повторної ідентифікації або шкоди в майбутньому.» OpenAI у своєму заяві зазначила, що дані про здоров’я в ChatGPT Health за замовчуванням зашифровані, зберігаються окремо від інших чатів і не використовуються для тренування базових моделей. За словами старшого радника Центру демократії та технологій Ендрю Кроуфорда, багато користувачів помилково вважають, що дані про здоров’я захищені через їхню чутливість, а не через те, хто їх зберігає. «Коли ваші дані про здоров’я зберігаються у вашого лікаря або страхової компанії, застосовуються правила конфіденційності HIPAA», — сказав Кроуфорд Decrypt. «Те саме не стосується організацій, які не підпадають під HIPAA, таких як розробники медичних додатків, носимих пристроїв для моніторингу здоров’я або компанії штучного інтелекту.» Кроуфорд додав, що запуск ChatGPT Health також підкреслює, як відповідальність у цьому випадку лягає на споживачів через відсутність всеохоплюючого федерального закону про приватність, що регулює дані про здоров’я, які зберігають технологічні компанії. «На жаль, наші поточні федеральні закони і регуляції покладають цю відповідальність на окремих споживачів, щоб вони аналізували, чи комфортно їм, як технології, які вони використовують щодня, обробляють і діляться їхніми даними», — сказав він. OpenAI повідомила, що ChatGPT Health спочатку буде доступний для невеликої групи користувачів. Очікується, що список очікування відкритий для користувачів ChatGPT за межами Європейського Союзу та Великої Британії, а ширший доступ планується у найближчі тижні через веб та iOS. У заяві OpenAI не згадувалося про Google або пристрої Android.