Прогнозувати, як саме генеративний штучний інтелект (ШІ) вплине на демократію, – це вкрай важке завдання з огляду на те, що його потенційні сфери застосування здебільшого залишаються невідомими, а виглядають майже безмежними. Якщо вузькі ШІ-інструменти, розроблені для виконання конкретних завдань, наприклад, для упорядкування реєстрів виборців, уже застосовуються в низці країн, то наслідки використання генеративного ШІ набагато важче передбачити.
Ця технологія – не просто якийсь черговий додаток, подібний до платформ соціальних мереж. Це фундаментальна технологія, чия поява більше схожа на появу самого інтернету. Вона вплине на демократію як безпосередньо, перетворюючи механізми виборів і управління, так і опосередковано, оскільки вона загрожує змінити основи інформаційних екосистем, суспільної довіри, а також думок.
Що стосується прямого впливу, то тут генеративний ШІ здатний здійснити революцію в процесах державного управління, уможлививши більш точне і повне нюансів розуміння потенційних результатів прийнятих рішень. Такі організації, як, наприклад, Climate Change AI, вже використовують цю технологію, вивчаючи, як “потрібно проєктувати дороги, енергомережі та водогони, щоб врахувати збільшену частоту і суворість екстремальних погодних явищ”.
Правоохоронні органи використовують ШІ для стеження і для передбачення злочинів (predictive policing). Останнім часом адвокати і судді почали використовувати генеративний ШІ (наприклад, ChatGPT) для допомоги в складанні позовів і навіть судових рішень.
Тим часом посилюються тривоги з приводу того, як саме генеративний ШІ вплине на вибори. У 2024 році щонайменше у 45 країнах відбудуться вибори, зокрема глобально значущі вибори відбудуться у США та Євросоюзі.
Якщо вузький ШІ вже допомагає спрощувати адміністрування виборів, то генеративний ШІ може призвести до появи нових форм упередженості та невизначеності. Наприклад, вкрай децентралізована виборча система Америки включає 10 тисяч юрисдикцій. У кожному штаті ведеться свій реєстр виборців, який потрібно постійно оновлювати, оскільки виборці переїжджають, помирають або з інших причин втрачають право голосу. Сьогодні в цій роботі активно використовуються вузькі ШІ-системи. Хоча вони допомагають підвищити ефективність, алгоритми, що використовуються для підтримання в порядку реєстру виборців, як показують перші дані, стикаються з труднощами в розумінні азіатських імен і можуть бути загалом упередженими до меншин. Аналогічну упередженість було виявлено під час використання ШІ для перевірки підписів, а це необхідно у випадках, коли виборчі бюлетені надсилають поштою.
Утім, роль ШІ може бути легко розширена за межі простого адміністрування виборів. Він може використовуватися, наприклад, для формування правил і структури виборів, впливаючи на рівень їхньої конкурентності, на ступінь політичної поляризації, а також на явку виборців і стимули кандидатів. Майже 90% виборчих округів для виборів до Конгресу США вважаються “безпечними” з погляду партій, тобто результати виборів тут зазвичай передбачувані: перевагу віддають або республіканцям, або демократам. Сьогодні існують десятки програм, які допомагають законодавцям накреслити межі округів. Сучасні програми генеративного ШІ можна використовувати для підвищення справедливості та репрезентативності американської політичної системи, але з їхньою допомогою так само легко можна посилити репресивне перекреслювання меж округів в інтересах тих, хто перебуває при владі. Це ще більше захистить привладні партії і кандидатів від справжньої конкуренції.
Крім перекроювання округів, генеративний ШІ може спростити проведення й інших структурних реформ. Наприклад, у європейських країнах використовується поєднання закритого і преференційного голосування. Навпаки, у США практикуються одномандатні округи, в яких переможцю дістається все. Реформатори, які прагнуть підвищити політичну поміркованість і знизити рівень поляризації, дискутують з приводу переваг таких варіантів реформ, як рейтингове голосування, відкриті праймеріз, пропорційне представництво. Однак потенційний ефект усіх цих змін у різному політичному середовищі та різному контексті, так само як і їхній загальний ефект у сукупності, залишається неясним. Генеративний ШІ міг би пролити світло на цю складну динаміку, підвищивши нашу здатність оцінювати довгострокові наслідки електоральних реформ.
Такі зміни можуть безпосередньо впливати на механізми демократії, але набагато більше тривог викликають непрямі наслідки. ШІ, найімовірніше, призведе до глибоких змін на ринку праці, з усіма відповідними політичними наслідками. Він може також змінити інформаційні екосистеми, на які спираються влада, кандидати та виборці. Генеративний ШІ може стати цінним активом для журналістів, спрощуючи їм виконання таких завдань, як узагальнення підсумків слухань в органах влади, організація матеріалів, що надходять з різних джерел, або навіть складання чернеток статей і їх редагування. І він може призвести до того, що ще більше журналістів буде звільнено.
Платформи соціальних мереж можуть використовувати ШІ для модерації онлайн-контенту, борючись із розповсюдженням передвиборчої дезінформації та позбавляючи людей, що модерують контент, від часто травматичного завдання перевірки найгидкішого контенту в інтернеті. Утім, майже немає сумнівів у тому, що генеративний ШІ посилить нинішню кризу, спричинену поширенням дезінформації, оскільки він спрощує створення дуже персоналізованого, переконливого контенту, який можна тестувати, виправляти, індивідуалізувати та таргетувати на всіх медіа-платформах.
У квітні Республіканська партія опублікувала першу в історії рекламну атаку на президента США Джо Байдена, яка була створена штучним інтелектом. Можна без жодних натяжок уявити собі політичний ландшафт, який буде наповнений дешевою у виробництві рекламою (або навіть подкастами) з використанням голосів і зображень людей, які користуються довірою. Цю рекламу створюватимуть для маніпулювання конкретною аудиторією з використання персональної інформації про вподобання в інтернеті для виявлення та експлуатації психологічних вразливостей. Чи справді ця технологія все повністю змінить, ще належить побачити.
Потенціал генеративного ШІ у створенні переконливої дезінформації багатьма мовами може стати великим подарунком для зарубіжних супротивників, які раніше зазнавали труднощів через погане знання мови і культурних реалій. Захисники демократії також можуть користуватися цими інструментами для створення більш переконливих матеріалів у боротьбі з авторитаризмом, займаючись мікротаргетуванням найбільш вразливих груп населення. Однак на сьогодні демократичні голоси перебувають у значній меншості та гірше оснащені.
Утім, хоча ШІ і здатний генерувати контент, йому, як і раніше, потрібні дистриб’ютори цього контенту (наприклад, Facebook) для охоплення аудиторії. Лабораторії ШІ та платформи соціальних мереж зобов’язані спільно розробити ефективні механізми запобігання поширенню дезінформації.
Важливо зазначити, що рівень упередженості в базових моделях мовного навчання такий самий, як і в корпусі історії людства, на якому вони тренуються. Саме тому в них віддається перевага культурам із більшим корпусом письмових та оцифрованих матеріалів (англійська та кантонська є переважними мовами), а історії завойовників представлені надмірно. Подібна упередженість може виявитися вкрай небезпечною, особливо в період, коли в країнах ліберальної демократії зростає політична поляризація, а 40% американців відкидають результати президентських виборів 2020 року.
Сама суть демократії залежить від довіри громадян до лідерів і до інституцій, яким вони доручають представляти свої інтереси. Однак довіра – це крихка річ, її треба захищати. Генеративний ШІ здатен принести велику користь у таких сферах, як медицина, промисловість, освіта, але його вплив на демократію потрібно як слід осмислити. В іншому разі ШІ послабить, а не зміцнить народне правління.
Автор: Келлі БОРН, колишній директор Центру кіберполітики Стенфордського університету, є директором ініціативи “Демократія, права та врядування” у Фонді Девіда та Люсіль Паккард.
Джерело тут
