Недавній Звіт Semafor Про відмову антропічної PBC дозволити використовувати свої моделі штучного інтелекту для певних завдань щодо нагляду за правоохоронними органами, є ключовим моментом у тривалої дискусії навколо ШІ, конфіденційності та державної влади. Хоча політична сутичка між білим домом, який прагне продемонструвати “патріотичний AI”, і стартапом, корінням у “безпеці AI”, створює драматичний заголовок, тим глибше питання полягає в томусвятий століття.
Від великих даних до генеративного ШІ: зміна ландшафту конфіденційності
Побоювання щодо конфіденційності не є новими. Починаючи з початку 2010 -х, громадське занепокоєння зросло навколо того, як особисті дані збирали, ділилися та експлуатували. Епоха великих даних, позначена хмарними платформами соціальних медіа, що збирають сліди користувачів та політичні кампанії шляхом озброєння аналітики прогнозування, породили регуляторні рамки, такі як Європейський Союз Загальний регламент захисту даних і Закон про конфіденційність споживачів Каліфорнії.
По суті, тоді дебати стосувалися збору та використання персональних даних без згоди: компанії тихо збирають особисті дані, орієнтовані на громадян з індивідуальними оголошеннями або підштовхування політичної поведінки. Технологія, що йдеться, була прогнозованою AI, моделі, побудовані на історичних даних для прогнозування окремих дій.
Однак, з генеративним ШІ, дебати про конфіденційність вступили в нову фазу.
Початкові суперечки, орієнтовані на інтелектуальну власність: чи були ці моделі тренувались справедливо та за згодою? Музиканти, письменники та інші творці запитали, чи використовували їх творчість без дозволу. Далі з'явилися питання щодо введення особистих чи власних даних, незалежно від того, взаємодія з такими системами, як Chatgpt, може бути збережена, неправильно використана або ненавмисно піддана.
Стенд антропіка: нова категорія стурбованості ШІ
Відмова антропіка дозволяти використовувати його моделі для спостереження позначає зміну. Йдеться більше не лише про збір даних або несанкціоноване навчання. Йдеться про ефективність ШІ як інструменту спостереження.
Великі мовні моделі різко знижують витрати на пошук, категоризацію та виведення висновків з масивних наборів даних. Їм можна доручити профілювати людей, генерувати спекулятивні асоціації (“Знайдіть людей, які можуть відповідати x або y профілю”) або виявити закономірності мови, які вказують на наміри чи інакомислення. На відміну від традиційних баз даних або пошуку ключових слів, ці системи можуть відповідати на нюансовані, відкриті підказки, прозорення відомостей про громадян способами, які раніше були нездійсненними.
Тоді ризик – це не просто те, що дані збираються, а в тому, що AI робить узагальнене, підмітне спостереження як технічно можливий, так і оперативно привабливим.
Етична та юридична червона лінія
Демократичні правові системи будуються на належному процесі: правоохоронні органи повинні мати підстави для розслідування. Спостереження має бути націленим, а не узагальненим. Дозволяючи AI проводити масу, спекулятивне профілювання призведе до того, що це призведе до цього принципу, трактуючи всіх як потенційного підозрюваного та надаючи ШІ повноту, щоб вирішити, хто заслуговує на розгляд.
Сказавши “ні” у цьому випадку використання, антропік провів червону лінію. Він стверджує, що є домени, де ризик шкоди для громадянських свобод переважає потенційну корисність. Це якісно відрізняється від попередніх дебатів щодо конфіденційності. Йдеться не про те, хто володіє даними, чи була надана згода. Йдеться про те, чи слід дозволити автоматизацію самого спостереження.
Хто вирішує і хто застосовує?
Це викликає ще одне складне питання: скільки технологічних компаній зможуть контролювати, як використовується їх продукція, особливо як тільки вони продаються в уряд? А ще краще, чи несуть вони відповідальність за те, щоб їх продукція використовувалася за призначенням? Немає легкої відповіді. Забезпечення “умов обслуговування” у високочутливих контекстах, як відомо, важко. Урядове агентство може придбати доступ до моделі AI, а потім застосовувати її способами, які постачальник не може бачити чи перевіряти.
Google, як відомо, просунув принцип “Не будь злом”, але коли він почав дотримуватися контрактів на оборони, він відмовився від цього принципу, врешті-решт, знявши його з кодексу поведінки повністю до 2023 року. Співробітники повстали, що призвело до протестів та гучних від'їздів. Але епізод не спричинив ясності; Швидше, це показало, наскільки насправді загрожує місцевість.
Компанії стверджують, що клієнти, особливо уряди, повинні взяти на себе відповідальність за те, як вони розгортають інструменти. Зацікавлені сторони, включаючи працівників, регуляторів та громадськість, неминуче стверджують, що продавці повинні нести відповідальність. Клієнти обурюються, що їм сказали, що вони можуть чи не можуть побудувати за допомогою товару, але коли зловживання з'являються на світ, це майже завжди є постачальником у заголовках.
Реальність полягає в тому, що немає акуратної роздільної здатності: залежно від того, який шлях пройшов компанія, випадання неминуче. Ця напруга між контролем та самостійністю, відповідальністю та відповідальністю – це саме те, що робить рішення антропії як таким наслідковим, так і настільки оскарженим.
Чому це має значення
Уряд США має право бажати, щоб лідерство AI був стратегічною перевагою. Але пов'язуючи національну конкурентоспроможність з Карт -Бланше за ризики спостереження, що підривають дуже демократичні цінності, які Америка претендує на захист. Корпоративні суб'єкти, такі як антроп, фактично заповнюють вакуум управління, роблять вибір політики, коли регулятори та законодавці ще не зможуть наздогнати.
Справжній виклик, що заздалегідь полягає у встановленні загальнодоступних рамок, які балансують потреби в безпеці з основними правами. Спостереження, що працює на AI, буде більш потужним, більш масштабованим та невидимим, ніж усе, що було раніше. Він має величезний потенціал, коли мова йде про випадки використання національної безпеки. Але без чітких меж це загрожує нормалізувати вічну, автоматизовану підозру.
Позиція антропіка сьогодні може засмутити розробників політики, але це попередній перегляд етичного вибору, з яким потрібно буде протистояти кожній компанії, уряду та суспільству. Питання полягає не в тому, чи буде АІ використовувати в правоохоронних органах. Питання полягають у тому, якими умовами, з яким наглядом та з тим, який захист прав громадян.
Емре КазімДоктор філософії, є співзасновником і співавтором платформи управління AI Holistic AI. Він написав цю статтю для кремнію.
Зображення: Силіконук/ідеограма
Підтримуйте нашу місію, щоб зберегти вміст відкритим та безкоштовним, займаючись спільнотою TheCube. Приєднуйтесь до мережі довіри випускників Thecubeде лідери технологій з'єднуються, діляться інтелектом та створюють можливості.
- 15 м+ глядачі відеоПотужність розмов через ШІ, Хмару, кібербезпеку та багато іншого
- 11,4k+ випускники -Підключіться з більш ніж 11 400 технологічними та бізнес-лідерами, що формують майбутнє через унікальну довірену мережу.
Про кремніючі медіа
Засновані технічними візіонерами Джоном Фур'єром та Дейвом Велланте, Siliconangle Media створили динамічну екосистему провідних галузевих брендів цифрових медіа, які досягають 15+ мільйонів елітних технологій. Наша нова фірма TheCube AI Video Cloud пробиває грунт у взаємодії аудиторії, використовуючи нейронну мережу thecubeai.com, щоб допомогти технологічним компаніям приймати рішення, керовані даними, та залишатися на передньому плані в галузевих розмовах.