«Awful AI»: коли штучний інтелект переходить межі

Awful AI — це відкрите сховище, яке збирає реальні приклади технологій штучного інтелекту, що демонструють найгірші сторони. Це такі речі, як надмірний нагляд, несправедливі рішення або системи, які ставляться до одних людей гірше, ніж до інших.
Ідея проста: показати, що йде не так, щоб запобігти повторенню таких ситуацій.

Проблема: машини приймають рішення без відома людей

Все частіше школи, підприємства, лікарні, поліція, банки та навіть соціальні мережі використовують штучний інтелект у своїх рішеннях.
У чому проблема? У більшості випадків люди навіть не підозрюють, що це відбувається.

Наприклад, штучний інтелект для розпізнавання облич або системи прогнозування у кримінальному правосудді можуть мати расові або гендерні упередження. Коли код і дані є закритими, немає можливості провести аудит, оскаржити або виправити ситуацію. Це рівнозначно новій формі «урядування за допомогою алгоритмів» — автоматичних рішень, що регулюють життя.

Чому це відбувається?

Багато з цих технологій створюються компаніями, які не оприлюднюють код, не надають доступ до даних і не пояснюють, як приймаються рішення.
Інші купуються державними чи приватними установами як «чорні скриньки»: вони працюють… але ніхто не може побачити, що там усередині.

А які наслідки це має?

Проблеми не є теоретичними, вони трапляються у повсякденному житті:

• Несправедливість: системи, які гірше ставляться до певних людей (за статтю, місцем проживання, кольором шкіри, акцентом).

• Втрата можливостей: алгоритми, які відмовляють у кредиті, страхуванні чи працевлаштуванні.

• Нагляд: камери, які безпідставно стежать за людьми.

• Стрес і розгубленість: відчуття, що «щось» вирішує за нас, але ми не знаємо, як саме. Це як жити в місці, де є правила, але ніхто не каже, які саме.

Групи, які й без того перебувають у маргінальному становищі, відчувають найгірші наслідки: алгоритмічні упередження перетворюють нерівності на автоматичні рішення. Непрозорість не є нейтральною;
вона поглиблює несправедливість, яка вже існувала.

Чим займається Awful AI?

Awful AI — це не «чарівний інструмент», але він діє як інфраструктура для забезпечення прозорості та дискусії — відкрите сховище, вільне від комерційних упереджень, яке документує та викриває зловживання штучним інтелектом. Це вже само по собі важливо: робить видимим те, що зазвичай приховують. Прозорість — це перший крок до відповідальності.

Відкритість платформи означає, що будь-хто — дослідник, журналіст, активіст — може переглянути список, вивчити випадки, поширити скарги, проводити дослідження, чинити тиск на інституції. Це надає повноваження громадам, що знаходяться поза межами корпоративно-технологічного ядра.

Крім того, Awful AI надихає на те, що автори називають «contestational tech» — тобто технологіями опору та протидії: оскільки проблема існує, необхідно терміново думати про протидію. Хоча репозиторій сам по собі не надає готової до використання альтернативної системи, він слугує критичною базою знань, відправною точкою для тих, хто прагне уявити собі справедливі, регульовані, піддані аудиту системи штучного інтелекту, спрямовані на загальне благо.

Ця функція є надзвичайно важливою: вона дозволяє демістифікувати уявну неминучість штучного інтелекту та ще раз підкреслити, що технології є результатом соціальних і політичних виборів та залежать від етичних рішень.

Як це допомагає тим, хто розробляє громадянські технології в Португалії

Хоча Awful AI не є португальською компанією — а задокументовані випадки часто походять зі Сполучених Штатів, Європи чи країн Північної півкулі — її роль як критичної інфраструктури є цінною для будь-якого контексту, де штучний інтелект та автоматизація набувають все більшого поширення.

У Португалії, як і в усій Європі, державні та приватні ініціативи починають впроваджувати автоматизовані системи: розпізнавання обличчя, адміністративні рішення на основі алгоритмів, масштабний аналіз персональних даних. Якщо не буде моніторингу, дискусій та альтернатив, ми повторимо ті самі зловживання — сегрегацію, непрозорість, алгоритмічну дискримінацію та масове стеження.

Для тих, хто відстоює вільне програмне забезпечення, відкриті дані та відкрите врядування, Awful AI є цінним інструментом для підвищення обізнаності, документування та мобілізації.

Технологія, якій ми можемо довіряти, бо бачимо, як вона працює

Репозиторій допомагає нам усвідомити, що існують кращі шляхи:

• вільне програмне забезпечення: ми можемо переглядати код та вносити до нього свій внесок

• відкриті та добре задокументовані дані: ми знаємо, звідки беруться рішення

• інструменти спільноти: створені для допомоги, а не для стеження

• «лоу-тек» або гібридні технології: прості, але прозорі

• процеси, що допускають перегляд та виправлення.

Непрозорість не є нейтральною; вона подовжує несправедливість, яка вже існувала

Посилання

daviddao/awful-ai: Awful AI — видання 2021 року (DOI 10.5281/zenodo.5855971)