Razmislite ponovo: Sloboda misli u doba umjetne inteligencije

Razmislite ponovo: Sloboda misli u doba umjetne inteligencije SAŽETAK JAVNE POLITIKE  Razmislite ponovo: Sloboda misli u doba umjetne inteligencije SAŽETAK JAVNE POLITIKE Priznanja i zahvale ODIHR izražava iskrenu zahvalnost onima koji su velikodušno podijeli- li svoje znanje i stručnost u pripremi ovog dokumenta. Njihove pažljivo razmotrene recenzije i povratne informacije u raznim fazama procesa od neprocjenjivog su značaja. ODIHR zahvaljuje članovima ODIHR-ovog panela stručnjaka za slobodu vjeroispovijesti ili uvjerenja, s posebnom zahvalnošću Ahmedu Shaheedu, Davidu Griffithsu i Pasqualeu Annicchinu na njihovom doprinosu s dubokim uvidom. Zahvala ide i sljedećim oso- bama na recenziji različitih nacrta i važnim doprinosima: Cameranu Ashra- fu, Christophu Bublitzu, Hervéu Chneiweissu, Emily Elstub, Alexanderu Kriebitzu i Simonu McCarthy-Jonesu, kao i kolegama iz Ureda predstavni- ka za slobodu medija. Posebna zahvala ide Benjaminu Greenacreu, čije su rasprave o ovoj temi uveliko obogatile konačni ishod, te Mileni Costas Trascasas na kontinuiranom dijalogu i duhu saradnje. Razmislite ponovo: Sloboda misli u doba umjetne inteligencije Objavio Ured OSCE-a za demokratske institucije i ljudska prava (ODIHR) Miodowa 10 00-251 Warsaw Poland www.osce.org/odihr © OSCE/ODIHR 2026., sva prava pridržana. Sadržaj ove publikacije može se slobodno koristiti i kopirati u obrazovne i druge nekomercijalne svrhe, pod uvjetom da je u svakoj od tih reprodukcija OSCE/ODIHR naveden kao izvor. ISBN: 978-92-9271-514-4 Dizajn: Filip Andronik Sadržaj

Sažetak.......................................................................................................... 5

Uvod............................................................................................................... 7

1. O slobodi misli.......................................................................................... 9

2. O umjetnoj inteligenciji........................................................................... 14

Generativna UI............................................................................................... 15

Korporativni utjecaj u doba UI........................................................................ 17

3. Ljudskopravaške implikacije razmišljanja unutar algoritma.................. 20

UI, pristranost i misao.................................................................................... 20

Ljudski nadzor, transparentnost i odgovornost................................................ 23

4. Sloboda misli u rekonfiguriranom građanskom prostoru...................... 26

Nova arhitektura građanskog prostora koja utječe na slobodu misli................ 26

„Informacijski poremećaj“ mijenja istinski izbor ............................................... 31

Utjecaj UI na ljudsku povezanost, razvoj misli i pravo na zaborav.................... 33

5. Neurotehnologija i sloboda misli............................................................ 36

6. Regulatorni okviri................................................................................... 42

7. Zaključci i preporuke.............................................................................. 48 Sažetak

Ovaj sažetak javne politike pruža jezgrovit uvod u pravo na slobodu misli, napominjući da države imaju kontinuiranu dužnost stvarati poticajno okruže- nje za njegovo potpuno ostvarenje.1 Počinje definiranjem slobode misli kao temeljnog prava koje se mora štititi i promovirati u svim kontekstima. Zatim istražuje kako nove tehnologije, posebno umjetna inteligencija (UI) i neuroteh- nologije, mijenjaju mentalni pejzaž. Iako se takve tehnologije, ovisno o načinu na koji se razvijaju i primjenjuju, mogu koristiti za poboljšanje uživanja ljudskih prava2, na primjer, boljim pristupom raznovrsnim informacijama, prilagođenim kako bi pomogle obrazovnim procesima ili podržale medicinski napredak, također nose i neviđene rizike. One zahtijevaju sveobuhvatne procjene i ro- busne zaštitne mjere prije razvoja, uvođenja ili upotrebe.

U ovom sažetku se ispituju implikacije novog informacijskog ekosistema po slobodu misli, kao i potencijalni utjecaji neurotehnologija zasnovanih na umjetnoj inteligenciji, koji pokreću temeljna pitanja o nepovredivosti indivi- dualne mentalne autonomije. U sažetku javne politike se ističu i preporuke koje države trebaju uzeti u obzir pri poštivanju slobode misli u digitalnom dobu. One uključuju:

y Regulatorne i institucionalne zaštitne mjere protiv novih rizika, posebno onih koje stvaraju umjetna inteligencija i neurotehnologije

y Mehanizme etičkog nadzora i obavezne procjene utjecaja na ljudska prava ugrađene u cijeli životni ciklus umjetne inteligencije3

y Inicijative za osiguranje transparentnosti, inkluzivne javne rasprave i jav- nu odgovornost u procesima donošenja odluka 1 Iako prepoznajemo značajne implikacije po slobodu misli kod primjene umjetne inteligencije u vojsci ili u kontekstu nadzora, ta područja nisu obuhvaćena ovim sažetkom. 2 Theresa Addie, MS., Harnessing Technology to Safeguard Human Rights: AI, Big Data, and Account- ability, Centar za istraživanje ljudskih prava, 8. 4. 2025.; Specijalni izvjestilac UN-a (UNSR) o slobodi vjere ili uvjerenja (FoRB) Ahmed Shaheed, Report of the Special Rapporteur on freedom of religion or belief, A/76/380, 5. 10. 2021., stavovi 2.- 4. 3 UN Global Digital Compact, kao aneks Rezolucije A/RES/79/1 Generalne skupštine UN-a, o Paktu za budućnost, usvojen 22. 9. 2024., uključuje sljedeće elemente u sklopu životnog ciklusa digitalnih tehnologija i tehnologija u nastajanju: preliminarni dizajn, dizajn, razvoj, evaluaciju, testiranje, isporuku, upotrebu, prodaju, nabavku, rad i povlačenje iz upotrebe.

5 y Izgradnju kapaciteta kroz obrazovanje i edukacije o etici i ljudskim pravi- ma za razvojne programere i operatere tehnologija umjetne inteligencije

y Ojačanu ulogu neovisnih institucija u zaštiti slobode misli i demokratskih vrijednosti

U sažetku se iznosi zaključak da inovacija kojom od samog početka nisu uzeta u obzir i zaštićena ljudska prava potkopava ciljeve koji bi trebali biti vodilja etičkom, naučnom i tehnološkom napretku u korist čovječanstva.4

Temeljem rada međunarodnih organizacija i akademske zajednice na po- dručju umjetne inteligencije, neurotehnologija i ljudskih prava, u ovom sa- žetku javne politike ističu se specifične implikacije po slobodu misli. Svrha mu je da služi kao temelj za daljnju raspravu i materijal za inicijative i aktiv- nosti ODIHR-a, država članice OSCE-a i drugih aktera.

4 Deklaracija o korištenju naučnog i tehnološkog napretka u interesu mira i za dobrobit čovječanstva, Rezolucija 3384 (XXX) Generalne skupštine UN-a, usvojena 10.11.1975.

6 Uvod

Dok se vlade snalaze u brzo razvijajućem području umjetne inteligencije (UI), uključujući njenu integraciju u područja poput neurotehnologije, ključ- no a često zanemareno pravo zahtijeva hitnu pažnju, a to je sloboda misli. Utvrđena u Univerzalnoj deklaraciji o ljudskim pravima (UDHR), uz pravo na slobodu savjesti i vjeroispovijesti, sloboda misli štiti sposobnost pojedinca da samostalno razmišlja, formira vlastita uvjerenja, donosi autonomne odlu- ke i doprinosi novim perspektivama. Ovo pravo potiče kreativnost, inovacije i razvoj otpornih, pluralističkih društava.5

Sloboda misli obuhvata i slobodu da se ne otkrivaju vlastite misli, kao i slo- bodu od prisile, kažnjavanja zbog vlastitih misli i nedopuštenog mijenjanja misli.6 Prepoznajući temeljnu prirodu ovog prava, države članice OSCE-a obavezale su se štititi slobodu misli, počevši od Završnog akta iz Helsinkija.7

5 Međunarodni pakt o građanskim i političkim pravima, Rez 2200A (XXI) Generalne skupštine UN-a, usvo- jen 16.12.1966., čl. 18.: “1. Svako ima pravo na slobodu misli, savjesti i vjeroispovijesti. To pravo uključuje slobodu da ima ili pri- hvati vjeroispovijest ili uvjerenje po svom izboru, te slobodu da, pojedinačno ili u zajednici s drugima, javno ili privatno, iskazuje svoju vjeroispovijest ili uvjerenje bogosluženjem, obredima, praksom i podučavanjem. 2. Niko ne smije biti podvrgnut prisili koja bi umanjila njegovu ili njenu slobodu da ima ili prihvati vjeru ili uvjerenje po svom izboru. 3. Sloboda iskazivanja vjere ili uvjerenja može biti podvrgnuta samo ograničenjima koja su propisana zakonom i koja su nužna za zaštitu javne sigurnosti, reda, zdravlja ili morala ili temeljnih prava i sloboda drugih. 4. Države strane ovog Pakta obavezuju se da će poštivati ​​slobodu roditelja i, kada je to primjenjivo, zakonskih skrbnika da osiguraju vjerski i moralni odgoj svoje djece u skladu s vlastitim uvjerenjima.” 6 Ovo se odnosi na svaku modifikaciju misli učinjenu na način koji je suprotan standardima ljudskih prava, uključujući i promjenu i manipuliranje strukturom i funkcijom mozga. Vidi Ahmed Shaheed, Izvještaj speci- jalnog izvjestioca. 7 Završni akt iz Helsinkija s Prvog samita šefova država ili vlada Konferencije za sigurnost i saradnju u Evropi (CSCE), od 1.8.1975., potvrđuje kao jedno od svojih deset vodećih principa „poštivanje ljudskih prava i temeljnih sloboda, uključujući slobodu misli, savjesti, vjeroispovijesti ili uvjerenja”. To pravo je ponovo potvrđeno u više kasnijih dokumenata OSCE-a (npr. Zaključni dokument s Trećeg sastanka, Beč, 4.11.1986. do 19.1.1989.; Dokument sastanka s Konferencije o ljudskoj dimenziji CSCE-a u Kopenha- genu, 29.6.1990.; Odluka Ministarskog vijeća OSCE-a, br. 4/03, “Tolerancija i nediskriminacija”, Maas- tricht, 2.12.2003.; Odluka Ministarskog vijeća OSCE-a, br. 3/13 “Sloboda misli, savjesti, vjeroispovijesti ili uvjerenja”, Kijev, 9.12.2013.).

7 Ipak, s obzirom na brzi razvoj novih tehnologija, uključujući umjetnu inte- ligenciju i neurotehnologije, ostvarenje prava na slobodu misli je pod sve većim pritiskom. Kako ove tehnologije sve više oblikuju način na koji misli- mo, komuniciramo i međusobno djelujemo, tako otvaraju složena pravna, etička i društvena pitanja koja zahtijevaju pažnju i djelovanje država članica.

8 1. O slobodi misli

Član 18. Univerzalne deklaracije o ljudskim pravima (UDHR) štiti pravo na „slobodu misli, savjesti i vjeroispovijesti”.8 Naglasak se obično stavlja na religiju, pri čemu se član 18. često sužava na „slobodu vjeroispovijesti ili uvjerenja“ ili „vjersku slobodu“. Donedavno se inherentna zaštita slobode misli smatrala toliko očitom da se definicija činila nepotrebnom, iako je ona temelj ljudskog dostojanstva i autonomije te svih ostalih ljudskih prava. Dok je René Cassin, koautor UDHR-a, opisao slobodu misli kao „izvor svih ostalih prava“, ni on ni drugi autori nisu to dalje razrađivali, a nakon toga je uslijedilo vrlo malo sudske prakse u oblasti slobode misli.9

Istovremeno, nakon Drugog svjetskog rata, autori Univerzalne deklaracije o ljudskim pravima bili su itekako svjesni da bi to pravo moglo biti ugroženo. Pokušaji utjecaja na misli ili promjene misli ili kažnjavanja stvarnih ili pret- postavljenih misli i mišljenja imaju dugu historiju.10 Ljudi koji odstupaju od mišljenja većine i osporavaju postojeće norme postaju mete mjera prisile, koje se obično intenziviraju kako raste nivo autokratije.11

Uprkos nepostojanju definicije u međunarodnom pravu o tome šta tačno predstavlja „misao“,12 ipak je moguće prepoznati njene obrise i atribute potrebne za rad na njenoj zaštiti u praksi.

Kao dio člana 18. Univerzalne deklaracije o ljudskim pravima i Međuna- rodnog pakta o građanskim i političkim pravima (ICCPR), ovo se pravo općenito shvata u kontekstu slobode savjesti i slobode vjeroispovijesti ili 8 Univerzalna deklaracija o ljudskim pravima, UNGA rezolucija 217 A, 10.12.1948. 9 Ahmed Shaheed, Izvještaj specijalnog izvjestioca. 10 Od nacističke propagande koja je dovela do Holokausta do totalitarizma i autoritarizma te drugih situacija u kojima su države poduzele mjere kako bi se omela sloboda misli, poput intervencija za sprječavanje nasilnog ekstremizma i radikalizacije koja vodi do terorizma. Vidi, npr. ‘This is the Thought Police’: The Prevent Duty and Its Chilling Effect on Human Rights, (London: Amnesty International, 2023.); Ahmed Shaheed, Report on the relationship between freedom of religion or belief and national security, A/73/362, 5.9.2018., stav 43. 11 71% svjetske populacije živjelo je pod autokratskim režimima 2023. u uporedbi s 50% u 2003.; u 2024. godini 42. zemlje (u kojima živi 35% svjetske populacije) prolazile su kroz „autokratizaciju“, a 18 zemalja (u kojima živi 5% svjetske populacije) prolazilo je kroz demokratizaciju. Vidi Marina Nord, Martin Lundst- edt i Staffan I. Lindberg, Sloboda medija, demokracija i sigurnost, Izvještaj o istraživanju, OSCE/RFoM, 15.7.2024., str. 6. 12 Ahmed Shaheed, Izvještaj specijalnog izvjestioca, stav 11.

9 uvjerenja. Međutim, sloboda misli ne odnosi se samo na vjersku misao. Odbor UN-a za ljudska prava, koji je dao autoritativno tumačenje člana 18. ICCPR-a u Općem komentaru br. 22, objasnio je da on „obuhvata slobodu misli o svim pitanjima“.13

Važno je napomenuti da se od člana 18. ne smije odstupati, što znači da države ne mogu obustaviti svoje obaveze u vezi s ovim pravom, čak ni u uvjetima „vanredne situacije koja ugrožava život nacije“.14 Sloboda misli općenito se shvata kao apsolutno i bezuvjetno pravo. U Općem komentaru br. 22 napominje se da član 18. „ne dopušta nikakva ograničenja slobode misli i savjesti ili slobode vjere ili prihvatanja vjere ili uvjerenja po vlastitom izboru“.15 Ove dvije slobode, zajedno s pravom na vlastito mišljenje bez uplitanja (član 19.1. Međunarodnog pakta o građanskim i političkim pra- vima), čine ono što je u zakonima o ljudskim pravima poznato kao forum internum ili „unutrašnje svetište“ ljudskog uma.16

Forum internum se razlikuje od pojma forum externum, koji se odnosi na izražavanje misli, uvjerenja ili vjerovanja. Prava forum externum nisu ap- solutna.17 Ona mogu podlijegati ograničenjima od strane države „kako je propisano zakonom i kada je to potrebno za zaštitu javne sigurnosti, reda, zdravlja ili morala ili osnovnih prava i sloboda drugih“ (a u slučaju člana 19.3, iz dodatnih razloga zaštite nacionalne sigurnosti).

Ova formulacija pravi razliku između aspekata članova 18. i 19. koji imaju apso- lutnu zaštitu i onih koji se mogu ograničiti u određenim okolnostima. Međutim, posmatranje slobode misli isključivo u smislu forum internuma je rizično jer ona

13 Opći komentar br. 22, “Član 18. (Sloboda misli, savjesti ili vjere)”, Odbor UN-a za ljudska prava, 48. sesija, 27.9.1993., stav 1. 14 Od niza drugih prava ne može se odstupiti, uključujući član 6. – pravo na život, član 7. – pravo da se ne bude podvrgnut mučenju ili okrutnom, nečovječnom ili ponižavajućem postupanju ili kažnjavanju, član 8. (stavovi 1. i 2.), pravo da se ne bude držan u ropstvu ili podređenosti te obavezu zabrane ropstva i trgovine robljem u svim njihovim oblicima. 15 Ahmed Shaheed, Izvještaj specijalnog izvjestioca, stav 3. 16 Ibidem, stav 2. 17 ICCPR, čl. 18.3. „Sloboda iskazivanja vjere ili uvjerenja može biti podložna samo ograničenjima koja su propisana zakonom i koja su nužna za zaštitu javne sigurnosti, reda, zdravlja ili morala ili temeljnih prava i sloboda drugih“. ICCPR, čl. 19.3. „Ostvarivanje prava predviđenih stavom 2. ovog člana nosi sa sobom posebne dužnosti i odgovornosti. Stoga može biti podložno određenim ograničenjima, ali ona će biti samo ona koja su propisana zakonom i koja su nužna radi: (a) Poštivanja prava i ugleda drugih; (b) Zaštite državne sigurnosti ili javnog reda (ordre public) ili javnog zdravlja i morala”.

10 time može dobiti pasivan karakter. Misao nije samo pokretač ljudske aktivnosti, već sama aktivnost kojoj treba dopustiti da se odvija neometano.

Kao i sva ljudska prava, sloboda misli često se preklapa s drugim pravima i slobodama zbog značajnih međusobnih odnosa i ovisnosti. Možda je jedan od najbitnijih primjera njen odnos s privatnošću, pravom koje se u određenim situacijama može ograničiti, u smislu zaštite (mentalnog) prostora za generi- ranje misli. Ovo preklapanje također ilustrira potrebu za daljnjim definiranjem opsega slobode misli i boljim pojašnjenjem njene zaštite, posebno s obzirom na apsolutnu prirodu ovog prava. Na primjer, pod kojim okolnostima mental- na privatnost i integritet zaslužuju apsolutnu zaštitu u okviru prava na slobodu misli? I kada bi ograničena zaštita u okviru prava na privatnost bila dovoljna?18

Slobodu misli također treba shvatiti u odnosu na slobodu savjesti i slo- bodu vjeroispovijesti ili uvjerenja. Savjest, koja nam kao „unutrašnji sud“19 omogućava na svom najosnovnijem nivou da slobodno odlučujemo šta je ispravno, a šta pogrešno, funkcionira samo ako proizlazi iz autonomnog mišljenja, u smislu da nema uplitanja u autonomiju osobe da oblikuje svoje misli. Isto tako, postoji rizik da bi prakticiranje bilo koje religije ili sistema vjerovanja moglo biti prisilno ako ne postoji sloboda misli.

Proces formiranja misli ne događa se u vakuumu, već u interakciji s drugim ljudima, prostorima i informacijama, gdje zajednice također igraju ulogu. Iz ove perspektive, postoji važno preklapanje s pravima sadržanim u članu 19. koji govori o slobodi mišljenja i izražavanja.20 Misao i izražavanje postoje 18 Akademska literatura razvila je niz kriterija koji pomažu u razlikovanju situacija koje zahtijevaju apsolutnu i ograničenu zaštitu kada je u pitanju sloboda misli, odnosno pravo na privatnost. Jedan kriterij uzima u obzir psihičke posljedice uplitanja (uglavnom u pogledu „ozbiljnosti“ i „značaja“) uz druge relevantne faktore, kao što je važnost ličnog interesa u neotkrivanju određenih vrsta mental- nog sadržaja (npr. seksualne orijentacije, političkog mišljenja, vjerskih uvjerenja) ili metoda uplitanja kojom se otkriva ili mijenja mentalno stanje osobe (npr. indoktrinacija ili ispiranje mozga). Nivo kontrole nad vlastitim mislima nakon uplitanja također je ovdje relevantan, kao i da li metoda podriva takvu kontrolu ili je zaobilazi. Drugi kriterij uzima u obzir karakteristike žrtve, gdje je ranjivost važna. Djeca, starije osobe, osobe s mentalnim invaliditetom ili osobe koje su lišene slobode ili se nalaze u drugim pritvorskim okruženjima posebno su ranjive. Razlike u moći važne su u tom smislu i mogu uključivati ​​i situacije na radnom mjestu. Drugi kriterij je kontekst u kojem se uplitanje dogodilo, što zahtijeva procjenu od slučaja do slučaja. Vidi Sjors Ligthart i Naomi van de Pol, Sloboda misli: Ap- solutna zaštita mentalne privatnosti i mentalnog integriteta? Razmatranje slučaja neurotehnologije u krivičnom pravosuđu, Patrick O’Callaghan i Bethany Shiner (urednici), Priručnik o pravu na slobodu misli, (Cambridge: Univerzitetsko izdanje, 2025.). 19 Sofie Møller, Kantov sud razuma, Pravna metafora i normativnost u kritici čistog uma, (Cambridge: Uni- verzitetsko izdanje, 2020.), Poglavlje 6 – Moralna savjest kao praktični unutrašnji sud, str. 96.-112. 20 Ostala relevantna prava uključuju: pravo svih na uživanje najvišeg dostižnog standarda fizičkog i men- talnog zdravlja (čl. 12. Međunarodnog pakta o ekonomskim, socijalnim i kulturnim pravima— ICESCR);

11 u „stalnoj povratnoj petlji“.21 Također ostaju različiti i zaštićeni na različite načine u međunarodnom okviru ljudskih prava. Misao se odnosi na aktiv- nost razmišljanja, od poticaja do rezultata, dok se mišljenje može shvatiti kao jedan od privremenih rezultata toka misli.22

„(...) ljudi se razvijaju i napreduju u interakcijama s drugim ljudskim bićima i u poticajnom materijalnom i kulturnom okruženju, (...) auto- nomija nije samo individualna, već i relacijska jer proizlazi iz nečijih interakcija i pripadnosti zajednici i utječe na njih.“ — Nacrt teksta Preporuke o etici neurotehnologije, UNESCO, 9.4.2025., stavovi 16. i 44.

U ključnom izvještaju iz 2021. godine (i prvom značajnom komentaru unu- tar sistema UN-a o pravu na slobodu misli), specijalni izvjestilac UN-a za slobodu vjeroispovijesti ili uvjerenja (UNSR), Ahmed Shaheed, navodi četiri moguća atributa tog prava:

y Sloboda neotkrivanja vlastitih misli

y Sloboda od kažnjavanja za vlastite misli, stvarne ili pretpostavljene

y Zaštita od nedopuštenog mijenjanja misli

y Pozitivna obaveza država da stvore poticajno okruženje za slobodu misli.

Dok su prva dva atributa jednostavnija, zaštita od nedopuštenog mijenjanja misli općenito se odnosi na zabranu miješanja u mentalnu autonomiju. To

pravo na obrazovanje — također u smislu da „obrazovanje treba biti usmjereno na puni razvoj ljudske osobnosti i osjećaja dostojanstva“ (čl. 13. ICESCR); pravo na učešće u kulturnom životu i uživanje u blagodatima naučnog napretka i njegove primjene, pravo na zaštitu moralnih i materijalnih interesa koji proizlaze iz bilo kojeg naučnog, književnog ili umjetničkog djela čiji je osoba autor, ili obavezu država da poštuju slobodu ​​ neophodnu za naučno istraživanje i stvaralačku djelatnost (čl. 15. ICESCR) ili zabranu prisiljavanja bilo koga na pripadnost udruženjima (čl. 20.2. ICESCR-a) (UDHR). 21 Ahmed Shaheed, Izvještaj specijalnog izvjestioca, stav 18. 22 Ibidem, stav 21.; Vidi i Christoph Bublitz, ‘The Mind and Conscience are the Person’s Most Sacred Possessions’: The Origins of Freedom of Thought in the Universal Declaration of Human Rights and the International Covenant on Civil and political Rights, Patrick O’Callaghan and Bethany Shiner (urednici), Priručnik o pravu na slobodu misli, (Univerzitetsko izdanje, 2025.)

12 pretpostavlja odsutnost prisile, modifikacije misli putem utjecaja na sam rad mozga odnosno umne manipulacije.

Sloboda misli, međutim, ne jamči „imunitet“ od tuđih misli ili od svakodnev- nih procesa uvjeravanja. UNSR nadalje predlaže, između ostalih faktora, moguće kriterije za prepoznavanje neprimjerenih oblika manipulacije, koji bi se trebali procjenjivati od ​​ slučaja do slučaja:

y Pristanak (osobe koja je sposobna dati pristanak, slobodna i informirana)

y Prikrivanje i zamagljivanje (ako bi „razumna osoba“ bila svjesna namje- ravanog utjecaja)

y Asimetrična moć između onoga koji vrši utjecaj i nositelja prava i kako je korištena

y Namjeravana ili počinjena šteta

Četvrti atribut, obaveza stvaranja poticajnog okruženja za slobodu misli, povezan je s drugim pravima, uključujući prava na pristup informacijama, komunikaciji i obrazovanju.23

„Sloboda misli nam je potrebna kako bismo se borili protiv klimatskih promjena, rasizma i globalnog siromaštva te kako bismo se zaljubili, smijali i sanjali. Pravo na slobodu misli je individualno, ali je ključno za kulturni, naučni, politički i emocionalni život naših društava. Sloboda misli nam daje priliku da pomislimo nešto ružno i odgurnemo od sebe takve misli prije nego što djelujemo na temelju njih ili im dopustimo da se ukorijene. Omogućava ​​ nam da biramo kako ćemo se ponašati prema drugima, da svoj govor prilagodimo kontekstu i publici, te da budemo svoji. Sloboda misli nam omogućava da zamislimo nove bu- dućnosti bez potrebe da ih prvo dokažemo, održava nas dinamičnim i avanturistički raspoloženim, štiti nas i povrh svega, čini nas ljudima.“ — Susie Alegre, Sloboda misli: Zaštita osnovnog ljudskog prava u digital- nom dobu, (London, Atlantic Books, 2022.), Uvod.

23 Ibidem, stavovi 25.-47.

13 2. O umjetnoj inteligenciji

U međunarodnom pravu ne postoji univerzalno prihvaćena definicija „umjet- ne inteligencije“. Akt Evropske unije (EU) o umjetnoj inteligenciji (UI),24 defini- ra „UI sistem“ kao „mašinski sistem dizajniran za rad s promjenjivim nivoima autonomije i koji nakon uvođenja može pokazati prilagodljivost, te koji, za eksplicitne ili implicitne ciljeve, na osnovu ulaznih vrijednosti koje prima, zaključuje kako generirati izlazne vrijednosti kao što su predviđanja, sadržaj, preporuke ili odluke koje mogu utjecati na fizička ili virtuelna okruženja“.25 Slična definicija postoji i u Konvenciji Vijeća Evrope o umjetnoj inteligenciji i ljudskim pravima, demokratiji i vladavini prava.26

UI se oslanja na algoritme27 napisane u kompjuterskom kodu koji obra- đuju skupove podataka tako što prikupljaju i transformiraju neobrađene podatke kako bi proizveli određene izlaze.28 Za razliku od algoritma, kod kojeg je proces donošenja odluka unaprijed definiran, UI „donosi odluke“ na osnovu analize podataka.29 Identificira obrasce u podacima, „uči“ iz njih i pravi predviđanja, koja zatim može prilagođavati dok nastavlja prikupljati nove podatke.30

Potencijalne primjene UI gotovo su beskrajne, a posljedice po živote ljudi značajno variraju. Umjetna inteligencija funkcionira na osnovu skupova po- dataka koji odražavaju društvene stvarnosti i sadrže lične podatke, uklju- čujući podatke iz oblasti zdravstva, zapošljavanja, bankarstva, kupovine ili provedbe zakona. Na primjer, u oblasti zdravstvene zaštite, može analizirati skupove medicinskih podataka kako bi predvidjela zdravstvene ishode koji pomažu u donošenju ljekarskih odluka. Umjetna inteligencija se također

24 Akt EU o umjetnoj inteligenciji, Uredba (EU) 2024/1689, službeno izdanje od 13.6.2024. 25 Ibidem, čl. 3. (1). 26 Okvirna konvencija o UI i ljudskim pravima, demokratiji i vladavini prava, Vijeće Evrope, usvojena 5.9.2024. 27 Algoritmi su set instrukcija usmjerenih na rješavanje određenog problema. Procesi njihovog rada su složeni i raznoliki. Vidi, na primjer, Andrew Williams, What Is an Algorithm? Defining And Applying Algo- rithms, Forbes, 12.1.2024. 28 UNSR o promociji i zaštiti prava na slobodu mišljenja i izražavanja, David Kaye, A/73/348, 29.8.2018. 29 Kaya Ismail, AI vs. Algorithms: What’s the Difference?, CMSWire, 26.10.2016. 30 Office of Communications, College of Education, Traditional AI vs. Generative AI: What’s the Difference?, University of Illinois Urbana-Campaign, 11.11.2024.

14 koristi za analizu velikih online skupova podataka o ponašanju potrošača kako bi se utvrdile njihove individualne sklonosti. Te informacije zatim može povezati s ličnim i kontekstualnim karakteristikama (npr. dob, geografska lokacija, spol, ranije kupovine i potrošačke navike) kako bi kreirala detaljne profile kupaca. Kompanije koriste ove profile za segmentaciju tržišta, što im omogućava da pojedincima nude njima prilagođene proizvode ili uslu- ge s ciljem povećanja prodaje ili interakcije s određenim sadržajem. Veća interakcija omogućava prikupljanje novih korisničkih podataka.

Iako su korisnici manje-više svjesni korištenja svojih podataka ili utjecaja na njihove izbore, ti procesi su i dalje problematični u smislu slobode misli i potencijala za manipulaciju. Isto tako, korisnici nemaju dovoljno informacija za učešće u raspravama o tome kako se nove tehnologije mogu koristiti u javnom interesu.

Generativna UI

Generativna umjetna inteligencija (GenAI) nova je generacija razvoja umjet- ne inteligencije. Odnosi se na umjetnu inteligenciju koja „kreira“ sadržaj, a koji se uglavnom koristi u kontekstu odgovaranja na upite (promptove) putem interfejsa zasnovanih na prirodnom jeziku (NLI).31 „Tradicionalna“ umjetna inteligencija proizvodi izlaze na bazi postojećeg sadržaja. GenAI generira „novi“ sadržaj na bazi postojećeg sadržaja.32 To može uključivati​​ tekst, slike, videozapise, muziku, pa čak i softverski kod. GenAI se obučava na ogromnim količinama podataka. Kako bi generirao svoje izlaze, provodi sofisticiranu analizu obrazaca i odnosa unutar podataka, kao što su nizovi riječi ili rasporedi piksela.33 Zasniva se, i njen razvoj je omogućen na osnovu takozvanih velikih jezičkih modela i dubokog učenja,34 čiji su razvoj i unap- ređenje trajali godinama prije nego što je ChatGPT postao široko dostupan za eksperimentiranje i svakodnevnu upotrebu.

Nakon što je OpenAI učinio ChatGPT (svoj GenAI model obučen na internet- skim podacima) javno dostupnim, on je postao najbrže rastuća aplikacija,

31 Fengchun Miao, Wayne Holmes, Guidance for generative AI in education and research, (Paris: UNESCO, 2023). 32 Ured za komunikacije, Obrazovni koledž, Traditional AI vs. Generative AI: What’s the Difference?. 33 Miao i Holmes, Guidance for generative AI in education and research, str. 8. 34 Cambridge English Dictionary Online, Entry for Large Language Model.

15 što je pokrenulo utrku među velikim tehnološkim kompanijama u razvoju GenAI alata i njihovoj integraciji u različite proizvode i platforme.35 Posebno je važno napomenuti da je, uslijed brzog širenja ove tehnologije, došlo do naglog porasta sadržaja generiranog umjetnom inteligencijom, koji kroz nadogradnju sadržaja generiranog ljudskim djelovanjem, mijenja ukupnu prirodu podataka na internetu, a time i dostupno znanje.36

Jedna od bojazni koja pogađa i ovu industriju, iako bi se to moglo promi- jeniti s novim tehnološkim napretkom, odnosi se na činjenicu da su istraži- vanja pokazala kako dolazi do kolapsa GenAI modela kada se rekurzivno obučavaju na umjetno generiranim podacima, za razliku od podataka koje generiraju ljudi.37

„Kolaps modela predstavlja degenerativni proces koji pogađa genera- cije obučenih generativnih modela, u kojem podaci koje generiraju na kraju zagađuju skup podataka za obuku sljedeće generacije. Budući da su obučeni na zagađenim podacima, oni zatim pogrešno percipi- raju stvarnost.“ — Ilia Shumailov, Zakhar Shumaylov, et.al., AI models collapse when trai- ned on recursively generated data, Nature, 631, 24. 6. 2024., str. 755.-759.

Početkom 2025. godine, lansiranje DeepSeek-a, GenAI modela razvijenog u Kini, ponudilo je visoke tehničke performanse uz znatno niže troškove, uključujući i u pogledu zaštite okoliša. DeepSeek je pokrenut kao otvoreni kod, omogućujući svima da ga preuzmu, kopiraju i nadograde bez potrebe za značajnim troškovima izgradnje modela od nule,38 čime su nova naučna otkrića postala javno dostupna.39 Međutim, njegovo pojavljivanje je izazvalo

35 Drugi primjeri GenAI modela: Claude (Anthropic), Llama (Meta), Gemini (Google), Le Chat (Mistral) i dr. Velike kompanije ostvaruju veliki razvoj, ali primjena nije ograničena na „Big Tech“ (velike tehnološke kompanije). 36 Vidi Jason Koebler, Project Analyzing Human Language Usage Shuts Down Because ‘Generative AI Has Polluted the Data’, 404media, 19.9.2024. 37 Vidi Ilia Shumailov, Zakhar Shumaylov, et.al., AI models collapse when trained on recursively generated data, Nature, 631, str. 755-759, 24.7.2024. 38 Charlotte Edmond, What is open-source AI and how could DeepSeek change the industry, World Eco- nomic Forum, 5.2.2025. 39 Alex He, DeepSeek and China’s AI Innovation in US-China Tech Competition, Centre for International Governance Innovation, 11.4.2025.

16 i zabrinutost u vezi sa pravom na privatnost i cenzurom,40 te su neke zemlje EU-a zabranile njegovu upotrebu pozivajući se na zaštitu podataka.41

Ipak, utjecaj DeepSeek-a na konkurenciju u tom području i širenje GenAI modela tek treba u potpunosti sagledati.42

Bilo da su zaista blizu toga ili ne,43 velike tehnološke kompanije govore i o konkretnim koracima prema sljedećoj fazi umjetne inteligencije: Op- ćoj umjetnoj inteligenciji (OUI). Očekuje se da će OUI raditi autonomno i pokazivati ​​sposobnost djelovanja sličnu ljudskoj.44 To ima implikacije po slobodu misli, jer bi takvi sistemi mogli utjecati na ovo pravo, podržavati ga ili podrivati. Stoga je ključno da vlade, programeri i regulatori osiguraju da dizajn i upravljanje potencijalnom općom umjetnom inteligencijom (OUI) bude zasnovano na standardima ljudskih prava.

Korporativni utjecaj u doba UI

Ekonomsko i regulatorno okruženje u kojem nove tehnologije djeluju pro- tekle dvije decenije već je imalo dubok utjecaj na demokratiju i ljudska pra- va. Korištenje UI od strane velikih tehnoloških kompanija, često nazivanih „Big Tech“, koje upravljaju glavnim internetskim platformama (uključujući pretraživače i društvene mreže), značajno je transformiralo prostor za javni diskurs. Ova transformacija promijenila je način na koji se vodi demokrat- ska debata, kao i način na koji ljudi formiraju svoja mišljenja, prave izbore i donose odluke, s direktnim implikacijama po slobodu misli.45 Kako kor-

40 Robert Booth and Dan Milmo, Experts urge caution over use of Chinese AI DeepSeek, The Guardian, 28.1.2025. 41 Hakan Ersen and Miranda Murray, DeepSeek faces ban from Apple, Google app stores in Germany, Reuters, 27.6.2025. 42 Hamilton Mann, Seek Deeper On DeepSeek For Artificial Integrity Over Intelligence, Forbes, 28.1.2025; Robert Booth and Dan Milmo, Chinese AI chatbot DeepSeek censors itself in realtime, users report, The Guardian, 28.1.2025; Cade Metz, How Did DeepSeek Build Its A.I. With Less Money?, The New York Times, 12.2.2025. 43 Kate Brennan, Amba Kak and Dr. Sarah Myers West, Artificial Power: 2025 Landscape Report, AI Now Institute, 3.6.2025. 44 Tom Allen, Real-world agentic AI is ‘complex’ cautions Google’s Demis Hassabis, Computing, 7.3.2025; Will Knight, Google’s AI Boss Says Gemini’s New Abilities Point the Way to AGI, Wired, 28.5.2025; Rob- ert Booth, Meta to announce $15bn investment in bid to achieve computerised ‘superintelligence’, The Guardian, 11.6.2025. 45 Vidi detaljnije o argumentu u Shoshana Zuboff, The Age of Surveillance Capitalism: The Fight for a Human Fu- ture at the New Frontier of Power, (New York, Public Affairs, 2019). Vidi i OSCE RFoM o UI i slobodi izražavanja.

17 poracije i vlade dobivaju sve veći pristup velikim količinama podataka o ponašanju i sklonostima pojedinaca, povećava se i potencijal za utjecaj ili čak manipuliranje najdubljim mislima ljudi. Bez obzira finansiraju li se javno ili privatno, tehnologijama utemeljenim na UI, uz nekoliko iznimki, trenutno nedostaju djelotvorni, na ljudskim pravima zasnovani javni regulatorni okviri koji bi osigurali prethodnu procjenu utjecaja ili naknadnu odgovornost.

Neurotehnologije se također ubrzano razvijaju i postaju sve sofisticiranije kroz svoju konvergenciju s umjetnom inteligencijom. Ove tehnologije otva- raju mogućnost čitanja i utjecaja na misli ljudi, budući da djeluju na mozak i neuronski krug. Komercijalizacija uređaja koji prikupljaju neuronske podatke povećava mogućnosti profiliranja i nadzora. To je direktno povezano sa slo- bodom misli. Iako ovakvi uređaji potencijalno nude revolucionarna rješenja, posebno na polju medicine, mogu omogućiti i pretpostavlja se da mogu ponuditi neviđene uvide u nešto što se dugo smatralo nepovredivom unu- tarnjom sferom, a to je svetost uma. Kada se koriste za profit, ove tehno- logije imaju potencijal da doprinesu i pojačaju moć i sofisticiranost utjecaja na individualne izbore koji nameću velike online platforme, što predstavlja nove etičke izazove i izazove na polju ljudskih prava.46

Tehnologije umjetne inteligencije prvenstveno razvijaju i primjenjuju akteri iz privatnog sektora, koji djeluju unutar komercijalnih okvira gdje je generiranje profita ključno za održivost. Kao rezultat toga, te se tehnologije uglavnom oblikuju van demokratskog nadzora i tradicionalnog „društvenog ugovora“ između vlada i građana, uprkos njihovom značajnom utjecaju na pitanja od javnog interesa. Ova nepovezanost znači da postojeće strukture upravlja- nja trenutno ne mogu adekvatno regulirati širinu utjecaja koji te tehnologije imaju na društvo. To također znači da komercijalni prioriteti tih privatnih aktera mogu, ali i ne moraju biti usklađeni sa širim ciljevima javne dobrobiti, što stvara probleme kada se želi osigurati da razvoj umjetne inteligencije uvijek služi općem dobru.

S obzirom na dubok utjecaj umjetne inteligencije na demokratske instituci- je, ljudska prava i interakciju između ljudi, važno je odgovoriti na pitanje o tome ko bi trebao razvijati i primjenjivati ​​takve tehnologije, pod kojim uvjeti- ma, u skladu s kojim propisima te s kojim ciljem. Osim dominantnih velikih

46 Vidi, na primjer, Nita A. Farahany, The Battle for Your Brain. Defending the Right to Think Freely in the Age of Neurotechnology, (New York: St Martin’s Griffin, 2023).

18 tehnoloških kompanija, postoje brojne novoosnovane (start-up) kompanije i drugi konkurenti na polju umjetne inteligencije.47 Industrijski, a posebno etički standardi, još se uvijek razvijaju, a stvarne prakse često ovise o ekonomskoj moći ili poslovnoj kulturi pojedinih kompanija ili okruženju u kojem posluju.

Države moraju preuzeti odgovornost i osigurati da „revolucija umjetne inte- ligencije“ poštuje ljudska prava i osnovne slobode svih. Pritom je važno da države promoviraju jednake uvjete koji potiču poštenu konkurenciju među svim akterima i sprječavaju „utrku do dna“. Države imaju stalnu dužnost stvarati i štititi poticajno okruženje za slobodu misli i sva druga ljudska pra- va, istovremeno pažljivo prateći utjecaj velikih tehnoloških kompanija kako bi osigurale odgovornost i usklađenost s javnim interesom.48

47 Rashi Shrivastara (ed.), Forbes 2025 AI 50 List - Top Artificial Intelligence Companies Ranked, Forbes, 10.4.2025.; Kate Brennan et al, Artificial Power: 2025 Landscape Report. 48 Ostala relevantna područja sa specifičnim implikacijama po slobodu misli, koja ovdje nisu obrađena, uključuju korištenje umjetne inteligencije u različite svrhe nadzora, posebno u svrhu nacionalne sigurnosti ili odbrane, na granicama i u kontroli migracija, tokom pritvora, od strane vojske ili kao dio autoritarnih režima. Vidi i Digital technologies at borders: A threat to people on the move, UN OHCHR, 9.10.2023.

19 3. Ljudskopravaške implikacije razmišljanja unutar algoritma

UI, pristranost i misao

Učinci umjetne inteligencije ovise o svrsi i dizajnu sistema umjetne inteligen- cije, kvaliteti podataka i načinu na koji se umjetna inteligencija primjenjuje. Određeni sistem umjetne inteligencije odražavat će i pristranosti i nesvjesne predrasude (slijepe tačke) onih koji su učestvovali u njegovom stvaranju, kao i one ugrađene u skupove podataka korištene za njegov razvoj i obuku. Nadalje, može se primijeniti u svrhe drugačije od onih za koje je stvoren i testiran, dok se u algoritmima za mašinsko učenje kao takvima može pojaviti niz inherentnih problema.49 U područjima koja tradicionalno uklju- čuju društvenu interakciju (npr. bankarstvo, socijalna davanja, stanovanje, zapošljavanje), ako skupovi podataka već sadrže pristranosti, to će stvoriti posebno problematične posljedice, jer sistemi umjetne inteligencije imaju moć da šire i potencijalno produbljuju takve pristranosti.50 Sistemi umjetne inteligencije također često odražavaju vrijednosti i stvarnost globalnog sje- vera, što povećava vjerojatnost da će umjetna inteligencija pogrešno pred- stavljati druge regije. Sva ta pitanja nose rizike po ljudska prava, uključujući pravo na slobodu misli. Međutim, mora se i dalje raditi na rješavanju ovog problema i smanjenju stepena pristranosti, između ostalog, promocijom raznolikosti tokom cijelog životnog ciklusa umjetne inteligencije, radom na rješavanju tehničkih izazova i, u nekim slučajevima, nekorištenjem određe- nih vrsta umjetne inteligencije ako je rizik previsok, ako se želi unaprijediti moć razmišljanja, zaštititi raznolikost i osigurati različite perspektive.

49 Bias in Algorithms: Artificial Intelligence, EU Agency for Fundamental Rigths (FRA), (Vienna, FRA, 2022). 50 Na primjer, na prediktivne algoritme policijskog djelovanja može utjecati niz faktora, uključujući i to je li skup podataka utemeljen na prethodno zabilježenim stopama kriminala. Na te stope, opet, mogu utjecati predrasude prema određenim manjinama koje žive u određenim područjima, a koje se zatim češće pojavljuju u skupovima podataka kao područja s visokim stopama kriminala nego što bi to bio slučaj u stvarnim (evidentiranim i neevidentiranim) stopama kriminala. Algoritamska predviđanja tako mogu postati pristrana prema određenim manjinama, čija naselja mogu postati predmet prekomjernog polici- jskog nadzora. Za sveobuhvatno objašnjenje pristranosti u prediktivnim sistemima policijskog djelovanja s umjetnom inteligencijom, vidi FRA, Bias in Algorithms. Akt EU-a o UI zabranjuje individualne prediktivne policijske sisteme umjetne inteligencije isključivo zasnovane na profiliranju ili osobinama ličnosti, osim kada se koriste za nadopunu procjena pojedinaca zasnovanih na objektivnim, provjerljivim činjenicama direktno povezanim s kriminalnim aktivnostima (vidi i poglavlje 6 u nastavku).

20  „Povratna petlja nastaje kada predviđanja koja generira sistem utječu na podatke koji se zatim koriste za ažuriranje tog istog sistema. To znači da algoritmi utječu na algoritme, jer njihove preporuke i pred- viđanja oblikuju stvarnost u praksi. Ta stvarnost tada postaje osnova za prikupljanje podataka za ažuriranje algoritama. Time, izlaz sistema postaje budući ulaz u isti taj sistem. Svaka pristranost u algoritmima na taj način se potencijalno može vremenom pojačati i pogoršati.“ — EU Agency for Fundamental Rights, Bias in Algorithms: Artificial Intelli- gence and Discrimination, (Vienna, FRA, 2022), str. 8.

Kada se ljudske interakcije i odluke zamijene sistemima umjetne inteligenci- je ili kada se previše oslanjamo na takve sisteme, okruženje za informirano donošenje odluka iskrivljuju postojeće ili sistemski generirane nejednakosti i netačnosti, koje sistem zatim dodatno pojačava. Tamo gdje pristran sadržaj na društvenim mrežama ili profiliranje pomoću umjetne inteligencije utječe na političke i druge društvene aktivnosti, osobe sa određenim zaštićenim karakteristikama ili obrascima ponašanja često su najdirektnije pogođene.51 U konačnici, ovo utječe na društvo u cjelini.

S obzirom na njihovu složenost i obim, uređivanje skupova podataka s ciljem izbjegavanja pristranosti, umjesto pokušaja njenog smanjivanja, iza- zovan je zadatak. Čak i kada se u najboljoj namjeri uloži trud u uklanjanje pristranosti iz alata umjetne inteligencije, greške u procesu mogu same po sebi dovesti do (daljnjih) kršenja ljudskih prava. Na primjer, platforme društvenih mreža koje koriste umjetnu inteligenciju za moderiranje (filtriranje, označavanje, uklanjanje ili ograničavanje širenja nezakonitog i uvredljivog sadržaja) već djeluju u širokim razmjerama. U nastojanju da se nosi sa složenošću ljudske komunikacije na tim platformama, umjetna inteligencija često ne uspijeva razumjeti ni kontekst ni nijanse (npr. satiru), što ograniča- va kvalitet moderiranja ljudske komunikacije općenito, a da ne spominjemo složenost pristranosti.52 Osim toga, značenje varira ovisno o okolnostima, zajedničkom razumijevanju i jeziku te se s vremenom mijenja. Prilikom po- kušaja korištenja umjetne inteligencije za moderiranje pristranosti, platforme društvenih mreža mogu nenamjerno cenzurirati marginalizirane zajednice

51 Mehnaz Rafi, When AI plays favourites: How algorithmic bias shapes the hiring process, The Conver- sation, 14.10.2024. Vidi i ICO considers uses of neurotechnology in employment in the UK, Withers, 31.7.2023. 52 Spotlight on AI and Freedom of Expression – A Policy Manual, OSCE/RFoM, 20.1.2022.

21 zbog korištenja i interakcije na određenom jeziku, što se odnosi i na zašti- ćene protunarative koji se suprotstavljaju štetnom govoru i govoru mržnju ili ga osporavaju.53

Istovremeno, sadržaj koji koristi „kodirani“ jezik može izbjeći detekciju. Ti su izazovi izraženiji kod sadržaja koji nije na engleskom jeziku, budući da kompanije ulažu manje resursa u moderiranje i provjeru činjenica.54 Na- pori usmjereni na uređivanje podataka radi smanjenja pristranosti, koji se uglavnom oslanjaju na umjetnu inteligenciju, trebali bi od samog početka životnog ciklusa sistema umjetne inteligencije podrazumijevati ​​adekvatno​​ učešće različitih i dobro informiranih ljudi.

Zabrinjavajuće je da kompanije koje upravljaju društvenim mrežama trenutno mijenjaju svoje politike o moderiranju sadržaja i zaštitnim mehanizmima koji se odnose na povjerenje i sigurnost korisnika, uključujući mjere za ublažava- nje govora mržnje, uznemiravanja i širenja netačnog sadržaja. Značajno su smanjile broj osoblja potrebnog za adekvatno moderiranje55 i zato postaju sve manje efikasne u suzbijanju štetnog sadržaja.56 S obzirom na štetu koju takav sadržaj nanosi marginaliziranim zajednicama (uključujući opasnost koju govor mržnje na internetu može izazvati u stvarnom životu), napore usmjerene na ublažavanje pristranosti trebalo bi u najmanju ruku pojačati.57

Jedna posebno važna karakteristika digitalnog okruženja je dominacija engleskog jezika, što ne odražava raznolikost jezika koji se govore širom svijeta. To je produbilo digitalni jaz u smislu pristupa internetu za one koji ne govore engleski ili druge dominantne jezike na internetu.58 GenAI dodat- no produbljuje ovaj problem jer se obučava na ograničenom broju jezika

53 FRA, Bias in Algorithms: Artificial Intelligence and Discrimination. 54 Content Moderation in a New Era for AI and Automation, Meta Oversight Board, septembar, 2024.; vidi i OSCE/RFoM, Spotlight on AI and Freedom of Expression – A Policy Manual. 55 David Evan Harris and Aaron Shul, Generative AI, Democracy and Human Rights, Centre for International Governance and Policy, Policy Brief No. 12., februar, 2025. 56 Joel Kaplan, More Speech and Fewer Mistakes, Meta, 7.1.2025.; Clare Duffy, Calling women ‘house- hold objects’ now permitted on Facebook after Meta updates its guidelines, cnn.com, 8. 1. 2025.; Dia Kayyali, Meta’s Content Moderation Changes are Going to Have a Real World Impact. It’s Not Going to be Good, TechPolicy.press, 9. 1. 2025., Adrian Kopps, Four key policy changes of X under Musk, Digital Society Blog, Alexander von Humboldt Institut für Internet und Gesellschaft, 28.10.2024. 57 Hate Speech, United Nations-dedicated webpage; X’s design and policy choices created fertile ground for inflammatory, racist narratives targeting Muslims and migrants following Southport attack, Amnesty International, 6.8.2025. 58 Internet Access: UNESCO and ICANN join forces to improve linguistic diversity online, UNESCO, 27.2.2025.

22 i stoga popunjava informacijsko okruženje prvenstveno podacima na tim jezicima. Ovaj trend ugrožava jezičku raznolikost i malo je vjerojatno da će se promijeniti bez značajnih ulaganja kompanija.59

Maternji jezici nisu samo bitni za kulture i identitete, nego su i sastavni dio načina na koji ljudi organizuju svoje misli u forum internumu i načina na koji se oblikuju svjetonazori ljudi. S pozitivne strane, pored ostalih dobrobiti za javnost,60 umjetna inteligencija uspješno se koristi za dokumentiranje, očuvanje i zaštitu ugroženih jezika, pa čak i za oživljavanje jezika koji se više ne koriste.61 U ovom smislu, od suštinske važnosti je etos ljudskih prava i razumijevanje koje oblikuje razvoj, primjenu i korištenje umjetne inteligencije.

Bez odgovarajuće brige za osiguranje raznolikosti i zastupljenosti, uklju- čujući i uklanjanje digitalnog jaza, budućnost umjetne inteligencije, u kojoj se (ponovo) stvara ogroman disbalans moći korištenjem novih tehnologija koje djeluju u širokim razmjerama, nosi rizik da od nestankka svjetonazora koji nisu zastupljeni u sistemima umjetne inteligencije.

Ljudski nadzor, transparentnost i odgovornost

Iz perspektive osiguranja poštivanja ljudskih prava, nivo ljudske intervencije u procesu donošenja odluka dobija ključni značaj. Potpuno automatizirano donošenje odluka znači da nema ljudske intervencije (uključujući ljudsku intuiciju ili sposobnost rasuđivanja) u načinu na koji umjetna inteligencija isporučuje rezultat. Nadalje, složenost GenAI-a otežava ili čak onemogu- ćava razumijevanje ili objašnjenje na koji način je postignut određeni rezul- tat. Dodatnu komplikaciju predstavlja interakcija između čovjeka i mašine, odnosno fenomen poznat kao „pristranost automatizacije“, gdje su studije pokazale da ljudi općenito više vjeruju mašinama nego ljudima i zato lakše prihvataju rezultate generirane umjetnom inteligencijom.62 Sloboda misli i stvarna ljudska autonomija u odlučivanju dovode se u pitanje kada postaje

59 Viorica Marian, AI could extinguish languages and ways of thinking, The Washington Post, 19.4.2023. 60 Vidi UN-ov AI for Good platform and Stéphanie Bascou, « IA d’intérêt public » : cette ONG veut créer un label éthique, similaire au « Commerce équitable », et facilement identifiable pour les consommateurs, (UI u javnom interesu. Ova nevladina organizacija želi stvoriti etičku oznaku, sličnu „Poštenoj trgovini“ (Fair Trade) i lako prepoznatljivu za potrošače), 01.net, 5.10.2024. (na francuskom). 61 AI: The Unexpected Hero in the Battle to Save Dying Languages, apolitical website, 20.10.2024. 62 Chris Baraniuk, Why we place too much trust in machines, BBC, 20. 10. 2021.

23 teže provjeriti i preispitati rezultate, posebno u posljedičnim situacijama, čak i ako su ljudi uključeni u odlučivanje o tome kako djelovati na osnovu tih rezultata.63 Nivo rizika varira ovisno o području u kojem se koristi umjetna inteligencija. Na primjer, ljekari bi trebali u potpunosti razumjeti umjetnu in- teligenciju koju koriste i biti obučeni za prevladavanje pristranosti automati- zacije, sistematski procjenjujući rezultate koju generira umjetna inteligencija za svakog pojedinačnog pacijenta, budući da su rizici u pogledu negativnih zdravstvenih ishoda vrlo visoki.64

Mogućnost provjere i osporavanja rezultata je često otežana pozivanjem na prava intelektualnog vlasništva nad kodom, parametrima i/ili drugim internim operacijama umjetne inteligencije. Ti se argumenti koriste kako bi se izbjeglo otkrivanje načina na koji je određeni rezultat postignut. Kada se uklone transparentnost i mogućnost odlučivanja o informacijskom okru- ženju (npr. ono što algoritmi društvenih mreža prikazuju u feed-ovima), to dodatno otežava informirano donošenje odluka ili čak pravilno razumijeva- nje vlastitog okruženja.

„Razumljivost se odnosi na stepen do kojeg osoba može razumjeti određeni sistem. Dok se predvidljivost sistema odnosi na pitanje - šta će sistem učiniti, razumljivost se odnosi na pitanje - zašto on to radi?“ Arthur Holland Michel, The Black Box, Unlocked, UNIDIR, 22.9.2020., str. 9.

Nemogućnost razumijevanja načina na koji umjetna inteligencija donosi odluke koje utječu na ljudska prava, bilo zato što je sistem previše složen ili zato što njegov rad i sredstva za njegovu kontrolu ne predstavljaju javno dostupne informacije, izaziva ozbiljnu zabrinutost u pogledu odgovornosti i transparentnosti - dva ključna principa za pravilno funkcioniranje pravo- sudnih sistema i demokratskih država.

63 Radi sveobuhvatnijeg objašnjenja predvidljivosti i razumljivosti, vidi Arthur Holland Michel, The Black Box, Unlocked, UNIDIR, 22.9.2020. 64 The application of artificial intelligence in healthcare and its impact on the “patient-doctor” relationship, Council of Europe, Steering Committee for Human Rights in the Fields of Biomedicine and Health (CD- BIO), septembar 2024., str. 20.

24  „1. Digitalne tehnologije dramatično mijenjaju naš svijet. One nude ogroman potencijal za unapređenje dobrobiti i napretka ljudi, dru- štava i naše planete (…) 3. Svjesni smo da tempo i snaga novih teh- nologija stvaraju nove mogućnosti, ali i nove rizike po čovječanstvo, od kojih neki još nisu u potpunosti poznati. Svjesni smo potrebe za identificiranjem i ublažavanjem rizika te osiguranjem ljudskog nadzo- ra nad tehnologijom na način koji doprinosi održivom razvoju i punom ostvarivanju ljudskih prava.“ — UN Global Digital Compact, annexed to the United Nations Gener- al Assembly resolution A/RES/79/1 on the Pact for the Future, usvojen 22.9.2024.

Ovi rizici se mogu ublažiti drugačijim razvojem umjetne inteligencije,65 na odgovoran način usmjeren na ljudska prava, uz osiguravanje regulatornog nadzora i odgovarajućeg nivoa razumljivosti, transparentnosti i odgovor- nosti. Nadalje, smislen ljudski nadzor ključan je kako bi se osiguralo da sistemi umjetne inteligencije doprinose postizanju najboljih ishoda za ljude i ne ugrožavaju njihova prava, uključujući pravo na slobodu misli.

65 Recommendation on the Ethics of Artificial Intelligence, UNESCO, 23.11.2024.; vidi takođe Rumman Chowdrhury i Dhanya Lakshmi, “Your opinion doesn’t matter, anyway”: exposing technology-facilitated gender-based violence in an era of generative AI, (Pariz, UNESCO 2023.); ili Resources stranicu organi- zacije Humane Intelligence.

25 4. Sloboda misli u rekonfiguriranom građanskom prostoru

Nova arhitektura građanskog prostora koja utječe na slobodu misli Istinska sloboda mišljenja i izražavanja ovisi o istinskoj slobodi misli.66 Kao što je objašnjeno, i misao i mišljenje dijelom su forum internuma, privatnog unutrašnjeg domena svakog pojedinca, područje koje uživa apsolutnu za- štitu od uplitanja, prema međunarodnom pravu ljudskih prava. Konceptual- no, u demokratskoj teoriji, slobodna misao oblikuje se i razvija kroz razgovor dok osobe slobodno razmjenjuju mišljenja i informacije.67 U ovakvom ide- alnom građanskom prostoru mora se omogućiti izražavanje, osporavanje i testiranje svih ideja i mišljenja, kako bi se osiguralo da najbolje ideje i istine u konačnici prevladaju. Mogućnost ove dinamične razmjene, gdje se ideje mogu susresti i sukobiti, razlog je zašto sloboda izražavanja (tj. izražavanje misli i mišljenja) uživa snažnu zaštitu i podršku. Ključna je za zdravu javnu raspravu koja je bitna za demokratiju. Novinarstvo u javnom interesu igra ključnu ulogu u omogućavanju informirane demokratske rasprave, kao i mogućnost slobodnog udruživanja i organiziranja, između ostalog. Me- đutim, postoje i ograničenja. Na primjer, države trebaju ograničiti „govor mržnje“ koji dostiže određeni prag ozbiljnosti, u skladu s međunarodnim pravom ljudskih prava.68

S porastom Big Tech kompanija, veliki dio komunikacije premjestio se na platforme društvenih mreža koje sada posreduju (moderiraju) u ljudskim interakcijama i djeluju kao čuvari pristupa vijestima i informacijama. Ove platforme koriste snažne algoritme mašinskog učenja za reorganizaciju sa- držaja na načine koji imaju implikacije po slobodu misli, 66 Sjors Ligthard, Christoph Bublitz, Thomas Douglas, Lisa Forsberg and Gerben Meynem, Rethinking the Right to Freedom of Thought: A Multidisciplinary Analysis, in Human Rights Law Review, 2022, 22, str. 1.-14. 67 Vidi i Simon McCarthy-Jones, Freethinking: Protecting Freedom of Thought Amidst the New Battle for the Mind, (London: Oneworld, 2023). 68 ICCPR, čl. 20: „1. Svaka ratna propaganda zabranjena je zakonom. 2. Svako zagovaranje nacionalne, rasne ili vjerske mržnje koje predstavlja poticanje na diskriminaciju, neprijateljstvo ili nasilje, zabranjeno je zakonom.“

26 jer temeljno mijenjaju način na koji informacije, mišljenja i ideje cirkuliraju, u usporedbi s informacijskim okruženjem kojeg su uglavnom organizirali tradicionalni mediji (u javnom interesu).69

Online sistemi preporuka zasnovani na algoritmima su oblikovani i vođeni prvenstveno komercijalnim interesima. Ovi sistemi su optimizirani kako bi se postigao maksimalan angažman korisnika i poticaj na kupovinu umje- sto utvrđivanja prioriteta u smislu tačnosti, raznolikosti ili ciljeva od javnog interesa, uključujući medijski pluralizam i novinarstvo u javnom interesu.70 Maksimiziranje angažmana i poticanje kupovine podrazumijeva korištenje informacija o prethodnom ponašanju i individualno profiliranje kako bi se predvidjelo s kojim će sadržajem korisnici najvjerojatnije stupiti u interakciju. Kao rezultat toga, korisnici imaju ograničenu kontrolu nad onim što vide, čak i ako i dalje zadržavaju autonomiju u odlučivanju da li će s tim sadrža- jem stupiti u interakciju ili ne. Također, mogu biti nesvjesni činjenice da se sadržaj koji vide razlikuje od onog koji vide drugi korisnici, uključujući osobe iz njihovog kruga interakcije, zbog algoritamske personalizacije.

Ovaj model stavlja značajan utjecaj nad informacijskim ekosistemom sva- kog pojedinaca u ruke malog broja platformi. To je doprinijelo fragmenta- ciji medijskog informacijskog prostora, slabljenju neovisnog novinarstva i potencijalnom narušavanju zajedničkog osjećaja stvarnosti, koji je dugo oblikovao interakcije, odabire i demokratski angažman pojedinaca.71 69 „Za razliku od tradicionalnih algoritama, koje inženjeri „hardkodiraju“ (fiksno ugrađuju u kod), algoritmi mašinskog učenja „obučavaju se“ na ulaznim podacima kako bi prikupili informacije o korelacijama unutar njih. Obučeni algoritam, poznat kao model mašinskog učenja, zatim može automatizirati buduće odluke. Algoritam obučen na podacima o klikovima na oglase, na primjer, mogao bi naučiti da će žene češće kliknuti na oglase za helanke za jogu nego muškarci. Rezultirajući model tada će ženama prika- zivati više ​​ tih oglasa.“ Vidi Karen Hao, The Facebook whistleblower says its algorithms are dangerous. Here’s why, MIT Technology Review, 5.10.2021. 70 OSCE/RFoM, Spotlight on AI and Freedom of Expression – A Policy Manual. 71 OSCE/RFoM, Spotlight on AI and Freedom of Expression – A Policy Manual; i šire u radu OSCE RFoM on Media and Big Tech; vidi takođe Declaration by the Committee of Ministers on the manipulative capa- bilities of algorithmic processes, Odbor ministara Vijeća Evrope, usvojeno 13.2.2019.: “8. Savremeni alati za mašinsko učenje imaju sve veću sposobnost ne samo predviđanja izbora već i utjecaja na emocije i misli te promjene očekivanog toka djelovanja, ponekad i podsvjesno. (…) 9. Fino granulirani, podsvjesni i personalizirani nivoi algoritamskog uvjeravanja mogu imati značajan utjecaj na kognitivnu autonomiju po- jedinaca i njihovo pravo na formiranje mišljenja i donošenje neovisnih odluka. (…) Centralni stubovi [Vijeća Evrope], ljudska prava, demokratija i vladavina prava, zasnivaju se na temeljnom vjerovanju u ravno- pravnost i dostojanstvo svih ljudi kao neovisnih moralnih subjekata. (…) Odbor ministara - skreće pažnju na rastuću prijetnju po pravo ljudi da formiraju mišljenja i donose odluke neovisno o automatiziranim sistemima, koja proizlazi iz naprednih digitalnih tehnologija. Pažnju treba posebno posvetiti njihovoj sposobnosti korištenja ličnih i neličnih podataka za sortiranje i mikro ciljano oglašavanje, identificiranje individualnih ranjivosti i korištenje tačnog prediktivnog znanja i rekonfiguraciju društvenih okruženja kako bi se ostvarili specifični ciljevi i interesi”;

27  „Metode kojima online platforme uređuju sadržaj putem sistema pre- poruka nisu transparentne i vrlo rijetko podliježu javnoj i/ili državnoj kontroli. (…). Sistemi za preporuke sadržaja mogu imati i neželjene posljedice iz perspektive širih društvenih ciljeva te mogu negativno oblikovati i ometati apsolutno pravo na slobodu misli i slobodu mi- šljenja. Osim toga, procesi sistema za preporuke internetskih po- srednika obično isključuju izbor, kontrolu i djelovanje pojedinačnih korisnika, što su preduvjeti za osiguranje individualne autonomije u traženju i prenošenju raznih informacija i ideja. (…) Postoje brojni dokazi da moć online platformi da oblikuju mišljenja ima sposob- nost usmjeravanja i pojačavanja utjecaja određenih javnih narativa i vrsta diskursa u odnosu na druge. Za zemlje s krhkim ili opresivnim političkim sistemima, ova moć oblikovanja mišljenja, zajedno s al- goritamskim pojačavanjem, može imati katastrofalne posljedice po individualno uživanje ljudskih prava“. — Spotlight on AI and Freedom of Expression – A Policy Manual, OSCE/ RFoM, 20.1.2022. str. 64. - 78.

Predstavnik OSCE-a za slobodu medija (RFoM) obavio je opsežno istraživanje u pokušaju da objasni utjecaj umjetne inteligencije na digitalno tržište ideja, medije od javnog interesa, slobodu mišljenja i izražavanja te demokratske procese, nudeći sveobuhvatne prepo- ruke državama članicama. Vidi više o tome u OSCE RFoM Spotlight on Artificial intelligence and Free- dom of Expression — SAIFE Resource Hub.

Kako se razvijaju mogućnosti umjetne inteligencije, oglašavanje koje se oslanja na poslovni model prikupljanja podataka zasnovan na umjetnoj inteligenciji, koji analizira individualno i kolektivno ponašanje i karakteristi- ke, postaje sve djelotvornije. Ovaj sistem prati korisnike na različitim web lokacijama i uređajima, objavljujući ciljani sadržaj, uključujući vijesti, kako bi se maksimalno privukla pažnja i potaknule kupovine.

Pojava društvenih mreža nesumnjivo je omogućila nove kontakte i komuni- kaciju, olakšala mobilizaciju javnosti po pitanjima od zajedničkog interesa i dala glas onima koji su pod cenzurom. Međutim, u usporedbi s tradicional- nim javnim prostorima, platforme društvenih mreža mijenjaju način na koji se odvija međusobna interakcija ljudi i njihovo povezivanje unutar različitih

28 grupa. Ovaj komunikacijski okvir postavljen je tako da koristi ljudske psi- hološke pristranosti, posebno kada je riječ o dinamici vlastite grupe u od- nosu na druge grupe i ljudskoj potrebi za pripadanjem, kako bi korisnicima pružao njima prilagođeni sadržaj prema kriterijima koji uglavnom nisu javno dostupni (tj. način na koji su algoritmi koji upravljaju sadržajem postavljeni i svrha kojoj služe). Platforme su transformirale velik dio javnog prostora i način na koji se možemo angažirati u njemu, a istovremeno održavaju jaku iluziju da imamo izbora.72 Kroz suptilne, ali sistematske efekte, ljudi postaju podložni utjecaju i manipulaciji mislima i ponašanjem, što podriva ideju o samostalnom razmišljanju i umanjuje našu autonomiju u djelovanju.73

Moglo bi se reći da dominantan položaj velikih tehnoloških kompanija poje- dincima ne ostavlja puno izbora nego da prihvate model nadzora i koriste platformu. To je postao uvjet za mnoge svakodnevne društvene i profesio- nalne interakcije, posebno tamo gdje se grupne aktivnosti odvijaju ili druge važne informacije prenose samo putem jedne platforme. To ima posljedice po slobodu misli. Izlažući se algoritmima kompanija koje filtriraju značajan dio njihovog doživljaja svijeta, ljudi riskiraju da izgube kontrolu nad svojim identitetom. Samo saznanje da su nadzirani može utjecati i na ono što ljudi misle i kako se ponašaju, potencijalno u strahu od posljedica.74 Važno je da je

72 Novo informacijsko okruženje, posebno u kontekstu političke polarizacije, dovodi do stvaranja „eho komora“, tj., rezultata koji proizlazi iz sklonosti ljudi, uz istovremenu stvarnu mogućnost izbora na društvenim mrežama gdje mogu odabrati interakciju s ljudima poput sebe s čijim se idejama slažu. Iako je literatura podijeljena o postojanju eho komora, ona je vrlo ograničena i geografski i jezički te se općenito proizvodi bez odgovarajućeg pristupa podacima potrebnim za pravilnu analizu. Na osnovu jedne velike, kolaborativne meta-istraživačke studije na temu političkog angažmana zaključeno je da postoje dokazi da ljudi uranjaju u homogene, istomišljeničke mreže kada koriste društvene medije. No, slika je mnogo složenija. Autori također ističu da, iako društvene mreže mogu ponuditi ljudima više vijesti i ideja nego što bi inače saznali u svom stvarnom životu, kada su online, različita mišljenja i informacije se percipiraju iz polarizirane pozicije jer ljudi ne reagiraju na suprotstavljene stavove ulaskom u demokratsku raspravu, nego traženjem odobrenja od online zajednice, odnosno „svoje grupe“ nasuprot „drugoj grupi“, što u konačnici dovodi do još dublje ukorijenjenih pozicija i polarizacije. Vidi slučaj Jonathan Haidt and Chris Bail (u toku), Social Media and Political Dysfunction, A collaborative review, neobjavljeni rukopis, Univerzitet u Njujorku, poglavlje 2.4). 73 Termin “nadzorni kapitalizam“ popularizirala je Shoshana Zuboff, koja ga opisuje kao novu ekonomsku logiku usmjerenu na izdvajanje ličnih podataka u svrhu oblikovanja ponašanja korisnika. „(...) Nadzorni kapitalisti otkrili su da najprediktivniji podaci o ponašanju dolaze iz intervencije u trenutno stanje kako bi se ponašanje potaknulo, pridobilo, podesilo i usmjerilo ka profitabilnim ishodima. Konkurentski pritisci proizveli su ovaj pomak, u kojem automatizirani mašinski procesi ne samo da poznaju naše ponašanje, već ga umnogome i oblikuju. S ovim preusmjeravanjem sa znanja na moć, više nije dovoljno automatizirati tokove informacija o nama, cilj je automatizirati nas.“ Shoshana Zuboff, The Age of Surveillance Capitalism: the fight for a human future at the new frontier of power, (New York: Profile Books, 2019), str. 8. 74 Nakon Snowdenovih otkrića o vladinom nadzoru, ljudi su promijenili svoje online ponašanje kako bi isključili pretraživanja o temama zbog kojih bi mogli biti prijavljeni vlastima. Vidi Jon Penney, Chilling Effects: Online Surveillance and Wikipedia Use, Berkley Technology Law Journal, svezak 31, br. 1, str. 117.-183., 27. 4. 2016. Vidi i Ahmed Shaheed, Report of the Special Rapporteur, stav 54.

29 EU počela poduzimati korake na rješavanju problema ciljanog oglašavanja u okviru različitih aspekata svog specifičnog zakonodavnog okvira. U trenutku pisanja ovog teksta, neki su slučajevi već bili riješeni, a drugi su još u toku.75 Neki od ovih slučajeva će imati implikacije po zaštitu autonomije i djelovanja, a time i slobode misli u novom građanskom prostoru.

„...činjenica da operater online društvene mreže ima dominantan položaj na tržištu online društvenih mreža sama po sebi ne isključu- je mogućnost da korisnici takve mreže daju valjanu saglasnost (...) tom operateru da obrađuje njihove lične podatke. To je ipak važan faktor u utvrđivanju je li saglasnost zaista valjana i slobodno data, što operater mora dokazati.“ — Press release no. 113/23, Court of Justice of the European Union, Judg- ment of the Court in Case C-252/2001 | Meta Platforms and Others (Gen- eral terms of use of a social network), Luxembourg, 4.7.2023., stav 154.

Akademska literatura o slobodi misli sugerira da ovo novo okruženje ugroža- va mentalnu autonomiju kroz: (1) nadzor i korištenje ličnih podataka koji daju vrlo detaljne uvide o pojedincima ili grupama; (2) netransparentnost tehnolo- gija, kako u načinu na koji koriste umjetnu inteligenciju za generiranje i širenje sadržaja, tako i u smislu unutrašnjeg funkcioniranja same tehnologije; (3) iskorištavanje kognitivnih pristranosti; i (4) njen do sada nezabilježeni doseg, oblikujući društvene sklonosti i izbore na način koji zaobilazi demokratske procese.76

75 Commission finds Apple and Meta in breach of the Digital Markets Act, European Commission Press release, 23.4.2025.; Vidi takođe Press release no. 116/24, Judgment of the Court in Case C-446/21 | Schrems (Com-munication of data to the general public), Court of Justice of the European Union, Lux- embourg, 4.10.2024.; i Press release no. 113/23, Judgement of the Court in Case C-252/2001 | Meta Platforms and Others (General terms of use of a social network), Court of Justice of the European Union, Luxembourg, 4.7.2023. Sličan slučaj riješen je i u Velikoj Britaniji početkom 2025. Vidi Dan Milmo, Meta to stop targeting UK citizen with personalised ads after settling privacy case, The Guardian, 22.3.2025. 76 Nina Keese and Mark R. Leiser, Online Manipulation as a Potential Interference with the Right to Free- dom of Thought in Patrick O’Callaghan and Bethany Shiner (eds.), The Cambridge Handbook of the Right to Freedom of Thought, (Cambridge: Cambridge University Press, 2025.). Vidi i Kate Brennan et al, Artificial Power: 2025 Landscape Report.

30 „Informacijski poremećaj“ mijenja istinski izbor

Reorganizacija našeg informacijskog ekosistema također je uticala na način na koji funkcioniraju demokratska rasprava i odlučivanje, pri čemu su mediji od javnog interesa posebno teško pogođeni. Širenje digitalnih tehnologija unaprije- đenih umjetnom inteligencijom, koje pokreću cikluse dezinformacija i pogrešnih informacija radi ostvarivanja određene političke, ideološke ili komercijalne ko- risti, a koje se putem digitalnih platformi šire mnogo brže nego prije,77 stvorilo je stanje „informacijskog poremećaja“.78 Ovaj fenomen narušio je povjerenje u neovisne medije i integritet informacija te doprinio zamagljivanju granica između istine i neistine. Kako se neizvjesnost povećava, opada i javno povjerenje u institucije i širi informacijski ekosistem, što utječe na kvalitet informiranog dono- šenja odluka potrebnog za učešće u demokratskom i svakodnevnom životu.79

Kako je objasnio OSCE RFoM,80 GenAI izaziva dodatne probleme novinar- stvu. Zamjenjuje originalni sadržaj koji su stvorili novinari, a istovremeno stvara probleme zbog plagiranja bez isplaćivanja naknade, što bi moglo dodatno potisnuti novinarstvo i sadržaj od javnog interesa iz javne sfere.81

Paralelno s promjenom uloge medija i njihove sposobnosti djelovanja u javnom interesu i održavanja zdravog informacijskog okruženja,82 GenAI i sposobnost stvaranja deepfake-ova koje je sve teže otkriti stvaraju daljnje rizike za informacijsko okruženje, a posebno za izborne procese.

77 Report of the UNSR on FoOE Irene Khan, Disinformation and Freedom of Opinion and Expression, 13. 4. 2021., A/HRC/47/25, stav 2. 78 Vidi Claire Wardle PhD and Hossein Derakhshan, Information Disorder: Towards an interdisciplinary framework for research and policy making, (Strasbourg: Vijeće Evrope, 2018.). Wardle i Derakhshan ko- riste konceptualni okvir za opis informacijskog poremećaja u novom komunikacijskom okruženju, koji se bavi vrstama informacijskog poremećaja (dezinformacije, pogrešne informacije i maliciozne informacije) u tri faze informacijskog poremećaja (stvaranje, produkcija i distribucija), a zatim elementima informaci- jskog poremećaja (subjekt, poruka i interpretator). Fokusiraju se na štetu i lažnost kako bi definirali vrste informacija koje čine ekosistem informacijskog poremećaja. Pogrešne informacije se stoga javljaju kada se lažne informacije dijele bez štetnih namjera. Dezinformacija je lažna informacija koja se svjesno dijeli s namjerom da se nanese šteta. Maliciozna informacija je istinita informacija koja se dijeli s namjerom da se nanese šteta (npr. objavljivanje privatnih informacija). 79 UNSR on FoOE Irene Khan, Disinformation and Freedom of Opinion and Expression. 80 Vidi Workshop on Big Tech and Media Freedom - Outcome Report, OSCE/RFoM, 15.10.2024. 81 Pored novinarstva, GenAI izaziva i velike probleme kada je u pitanju poštivanje člana 15. ICESCR-a u vezi s pravom svake osobe da ima koristi od zaštite moralnih i materijalnih interesa koji proizlaze iz bilo kojeg naučnog, književnog ili umjetničkog djela čiji je autor. 82 Vidi rad OSCE RFoM-a na temu: Media and Big Tech Initiative | OSCE. Pored toga, u 2025. godini, OSCE RFoM priprema smjernice za države o očuvanju medijske slobode u doba Big Tech kompanija i UI, podržavajući na taj način razvoj zdravih online informacijskih prostora.

31 Ove se tehnologije mogu lako iskoristiti za manipulaciju, širenje dezinforma- cija i lažnih informacija s razornim efektom. Deepfake-ovi se često koriste u svrhu rodno zasnovanog uznemiravanja, posebno kroz proizvodnju i širenje seksualiziranih slika. Prvenstveno su usmjereni na žene i djevojčice, a među čestim metama su i LGBTI osobe. Žene u politici su posebno izložene riziku, kao i one koje žive u konzervativnim, patrijarhalnim društvima, gdje deepfake koji prikazuje osobu u „neprimjerenoj“ situaciji može imati ozbiljne posljedice.83

Pokazalo se, na primjer, da zlonamjerni akteri mogu koristiti GenAI modele otvorenog koda za počinjenje ili dodatno širenje rodno zasnovanog nasilja (GBV) u digitalnom prostoru.84 Iako GenAI nije stvorio rodno zasnovano nasilje, njegova moć generiranja, umnožavanja i masovnog širenja rodno zasnovanog nasilja i drugih vrsta štetnog sadržaja uz male troškove85 čini ga destruktivnijim ako ostane nereguliran i dostupan takvim akterima, dok se oni koji su njime pogođeni istiskuju iz online sfere ili su previše zastrašeni da bi reagirali.

GenAI modeli nude i specifičan tehnički izazov nazvan „halucinacije“. To je sadržaj koji proizvodi GenAI, a koji se udaljava od činjenične stvarnosti ili je jednostavno izmišljen. Međutim, obično je vrlo uvjerljiv i stoga ga je teško ili nemoguće otkriti. Halucinacije proizlaze prvenstveno iz načina na koji GenAI funkcionira. Problem nije samo u bazi podataka na osnovu koje GenAI radi (uključujući netačnosti ili lažne informacije npr. u slučaju podataka dostupnih na internetu), već i u načinu na koji je GenAI dizajniran. Naime, on je osmišljen tako da nastavi tok interakcije i ponudi odgovor.86 Kompanija OpenAI je pre- poznala da halucinacije, zajedno s drugim elementima poput namjernih dezin- formacija ili društvenih predrasuda, mogu izazvati sumnju u cijelo informacijsko okruženje, ugrožavajući našu sposobnost razlikovanja činjenica od fikcije.87 Ovaj „gubitak osjećaja za stvarnost“ može imati stvaran utjecaj na ljudsku autonomiju i sposobnost samostalnog djelovanja, kao i na slobodu misli. Iako kompanije i istraživači rade na smanjenju halucinacija,88 između ostalog i kroz tehnička rješenja koja čine izvore informacija vidljivima, što je važno iz mnogo

83 Meta Oversight Board, Content Moderation in a New Era for AI and Automation web stranica. Vidi i OSCE/ODIHR CHANGE: Capitalizing on the Human Dimension Mandate to Advance Gender Equality, projekat. 84 Chowdrhury and Lakshmi, “Your opinion doesn’t matter, anyway”. 85 Laura Bates, Online brothels, sex robots, simulated rape: AI is ushering in a new age of violence against women, The Guardian, 3.6.2025. 86 Kate Brennan et al, Artificial Power: 2025 Landscape Report, str. 49. 87 Colleen M Shannon, P. Eng., LL.M., Do AI Hallucinations Disguise Gender Bias?, Medium, 27.9.2023. 88 Reece Rogers, Reduce AI Hallucinations with This Neat Software Trick, Wired, 14 June 2024.

32 razloga, malo je vjerojatno da će se problem riješiti unutar postojećih modela i bez određenih kompromisa u performansama GenAI tehnologije.89

Akt EU o umjetnoj inteligenciji predstavlja prvi pokušaj reguliranja korištenja GenAI-a, uključujući vrlo sofisticirane deepfake sadržaje, kako bi se pojedinci zaštitili od zloupotreba omogućenih umjetnom inteligencijom. Iako su neke grupe očiglednije pogođene ovim problemima, „informacijski poremećaj“ ima globalni utjecaj i predstavlja rizik ne samo po slobodu misli, već i po ljudska prava i sigurnost svih ljudi.90

Utjecaj UI na ljudsku povezanost, razvoj misli i pravo na zaborav Način na koji ljudi obrađuju i razumiju svijet, uključujući i kritičko razmišljanje, oblikovan je njihovim obrazovanjem, odgojem i uvjetima za razvoj mozga tokom formativnih godina. Umjetna inteligencija, a posebno GenAI, već je duboko utjecala na obrazovanje, a to će se i nastaviti, vjerojatno transfor- mirajući podučavanje i učenje, i to tempom koji često ostavlja malo pro- stora za rasprave o rizicima i koristima ili donošenje pravilnih odluka nakon toga. Digitalna i medijska pismenost ključna je za sve, ali nastavni planovi i programi moraju se ažurirati kako bi učenici, mladi i stari, stekli znanja i vještine potrebne za razumijevanje, snalaženje i djelovanje u okruženju u kojem posreduje sve prisutnija umjetna inteligencija.

Postoje potencijalne koristi od upotrebe umjetne inteligencije u oblasti ob- razovanja. Međutim, njeno korištenje, uključujući GenAI, u obrazovanju nosi i specifične rizike kojima se treba pažljivo pozabaviti. UNESCO je istaknuo potencijalne etičke izazove povezane s primjenom GenAI-a u obrazovnim okruženjima, pozivajući na sveobuhvatne procjene dugoročnog utjecaja.91 Glavni problem je potencijalno smanjenje interakcije među ljudima. Ta inte- rakcija i ljudska povezanost ključne su za socio-emocionalne aspekte učenja, koji igraju važnu ulogu u kognitivnom razvoju i emocionalnom zdravlju. Postoji rizik da iskustva učenja i stjecanje vještina razmišljanja budu zamije- njeni rješenjima koja nudi GenAI. Akademska istraživanja o korištenju GenAI-a

89 Kate Brennan et al, Artificial Power: 2025 Landscape Report, str. 49. 90 Vidi i Marina Nord et.al., Media Freedom, Democracy, and Security. 91 Miao and Holmes, Guidance for generative AI in education and research.

33 pokazuju zabrinjavajući pad sposobnosti kritičkog razmišljanja.92 Nedavna istraživanja stručnjaka iz ove oblasti slično su pokazala smanjenje vještina višeg nivoa razmišljanja među profesionalcima koji koriste GenAI modele za obavljanje svog posla.93 Postoji i zabrinutost da bi GenAI mogao suziti izloženost mišljenjima različitih grupacija, jer obično odražava „standardne“ odgovore, dodatno marginalizirajući nedovoljno zastupljene grupe.94

Da bi umjetna inteligencija imala pozitivan učinak u obrazovanju, integracija GenAI-a u obrazovne okvire zahtijeva jasno razumijevanje njenog utjecaja na učenje i stjecanje „vještina razmišljanja“, nakon čega slijede jasne smjernice i obuka za obrazovne radnike. Da bi bila korisna, mora biti i u službi obrazovnih ciljeva vezanih za razvoj sposobnosti razmišljanja i ljudski napredak. Na taj način, umjetna inteligencija npr. može poboljšati personalizirano učenje kroz prilagodljive platforme za učenje, omogućiti pristup obrazovnim resursima u nedovoljno opsluženim područjima i osloboditi nastavno osoblje suvišnih zadataka poput automatskog ocjenjivanja testova s višestrukim ​​ izborom od- govora, čime bi se dao prostor i prilika za jačanje slobode misli. Sve više zabrinjava primjena chatbot-ova osmišljenih za simuliranje ljudskih odnosa radi druženja, uključujući životne partnere, u novoj generaciji umjetne inteligencije (GenAI). Mladi ljudi ili osobe s mentalnim zdravstvenim problemi- ma posebno su izloženi riziku. Njihovo stanje se može pogoršati, a strašne posljedice nastaju kada chatbot-ovi potiču nezdrava ponašanja ili čak zago- varaju samoubistvo.95 Posebno je alarmantno kada se umjetna inteligencija koristi za rješavanje problema mentalnog zdravlja. Razvoj odgovarajućih uslu- ga mentalnog zdravlja temeljenih na umjetnoj inteligenciji je složen, a ogromni su rizici kod upotrebe chatbot-ova, uključujući i one koji su namijenjeni za nešto drugo (npr. zabavu ili marketing). Stručnjaci, uključujući udruženja psi- hologa, upozoravaju na ovakvu opasnost.96 Potrebno je hitno regulirati ovo

92 Andrew R Chow, ChatGPT’s Impact on Our Brains According to an MIT Study, Time, 23.6.2025. 93 Despite plans to invest $80 bn, Microsoft admits that AI is making us dumb, Business Standard, 17.2.2025., izvor Parmy Olson, Bloomberg; Amanda Silberling, Is AI making us dumb?, TechCrunch, 10.2.2025. 94 Miao and Holmes, Guidance for generative AI in education and research. 95 Eileen Guo, An AI chatbot told a user how to kill himself — but the company doesn’t want to “censor” it, MIT Technology Review, 6.2.2025.; Kate Payne, In lawsuit over teen’s death, judge rejects arguments that AI chatbots have free speech rights, Associated Press, 21.5.2025. 96 Zara Abrams, Using generic AI chatbots for mental health support: A dangerous trend; American Psy- chological Association, 12. 3. 2025.; APA calls for guardrails, education, to protect adolescent AI users, American Psychological Association, Press Release, 3.6.2025.; Nathalie Koubayová, Meet ChatPal, the European bot against loneliness, Algorithm Watch, 22.5.2023.

34 pitanje, što bi obuhvatilo zabranu određenih aplikacija ili upotreba, kako bi se spriječila šteta i omogućio siguran razvoj tehnologija u ovoj oblasti.

Stepen do kojeg je osoba svjesno prisutna i aktivna u javnom prostoru zna- čajno se mijenja u doba online prostora u kojem vlada UI. Urođeni dio naše slobode misli i svijesti jeste naš potencijal, kao ljudskih bića, da se stalno razvijamo i mijenjamo.97 Međutim, sada je javno prisustvo na internetu trajno (npr. kroz objave na internetu), uključujući javno dostupne činjenice i digi- talizaciju novinskih arhiva. Na primjer, misli koje je osoba nekad iznijela na internetu danas se mogu koristiti protiv nje. Može se tvrditi da to ograničava mogućnost i slobodu razvoja u vlastitim, kao i u očima drugih. Kao takvo, „pravo na postajanje“ koje je Charles Malik, autor UDHR-a, opisao kao bit slobode, pod rizikom je od zaustavljanja na samom izvoru.

„Pravo na zaborav“ počinje se prepoznavati u sudskoj praksi u odnosu na pravo na privatnost. Odnosi se na pravo na brisanje informacija o sebi koje bi inače ostale trajno dostupne u javnoj sferi, osim u određenim situacijama, kada javni interes prevladava u smislu pristupa određenim informacijama.98

Međutim, digitalna prisutnost ljudi razvila se u ono što se naziva digital- nim otiskom. To je zapis svih online aktivnosti osobe, a ne samo ono što namjerno objavljuje da drugi vide. Obuhvata i web stranice koje posjećuje (zabilježene putem kolačića) i sve što one mogu reći o njoj. Ovi podaci omo- gućavaju sve sofisticiranije profiliranje, s opsegom i rezultatima neviđenih razmjera, što utječe na individualnu autonomiju. Osim osnovnog ciljanja korisnika prilagođenim sadržajem, ovakvo profiliranje moglo bi postati dio širih sistema nadzora te predstavljati prijetnju kibernetičkoj sigurnosti ili se koristiti za progon, npr. branitelja ljudskih prava, disidenata ili slobodnih mislilaca u autoritarnim režimima.99

97 Vidi, na primjer, Hannah Arendt, The Human Condition, (University of Chicago Press: 1953). 98 „Izbor mjere koja će se provesti u specifičnim okolnostima bilo kog slučaja može varirati ovisno o faktorima kao što su tačnost ili netačnost informacije, stepen u kojem informacija doprinosi raspravi od javnog interesa, ima li bilo kakav istorijski, istraživački ili statistički interes, negativne posljedice po lični prostor pojedinca zbog kontinuirane dostupnosti informacije na internetu, kao i količina vremena koja je protekla od događaja na koje se odnosi članak ili vremena koje je proteklo od objave informacije“. Joint Factsheet: The Right to be Forgotten. ECtHR and CJEU Case-Law, European Court of Human Rights and the EU Agency for Fundamental Rights, 30.10.2024. 99 Vidi Front Line Defenders webpage on Digital Protection.

35 5. Neurotehnologija i sloboda misli

Neurotehnologija je još jedno područje koje je izuzetno bitno za slobodu misli, a posebno kada se prepliće s UI. Ovo poglavlje nudi pregled glavnih izazova koje ovo područje nameće slobodi misli.

U ključnom izvještaju iz 2024. godine,100 Savjetodavni odbor Vijeća UN-a za ljudska prava opisuje „neurotehnologiju“ kao „niz uređaja i sistema koji su u međusobnoj interakciji sa centralnim nervnim sistemom putem električ- nih, magnetskih, optogenetskih i drugih sredstava“. Neki od ovih uređaja i sistema prvenstveno su namijenjeni razumijevanju načina rada mozga, dok drugi direktno interveniraju u mentalne procese kako bi obnovili izgubljene funkcije i poboljšali kognitivne sposobnosti.

Najnovija dostignuća u neurotehnologiji povećala su naše razumijevanje mozga i omogućila nove terapije za različita neurološka ili mentalna obo- ljenja. Velike istraživačke inicijative, koje finansiraju državni nivoi, pridonijele su takvom napretku.101 Ipak, brzi razvoj neurotehnologija u kombinaciji s umjetnom inteligencijom izaziva ozbiljnu zabrinutost za mentalnu privatnost, integritet i autonomiju.

U preporuci iz 2019. godine, Vijeće OECD-a prepoznalo je da „postoje etička, pravna i društvena pitanja koja se otvaraju kroz određene primjene neurotehnologija s obzirom na percipiranu centralnu ulogu mozga i kogni- tivne funkcije za pojmove ljudskog identiteta, slobode misli, autonomije, privatnosti i ljudskog prosperiteta“ te da je „potrebna široka javna rasprava o najboljem načinu primjene neurotehnologije u društvu“.102 U nacrtu teksta

100 UN Human Rights Council Advisory Committee, Impact, opportunities and challenges of neurotechnol- ogy with regard to the promotion and protection of all human rights, A/HRC.57/61, 8.8.2024., stav 4. Druga definicija neurotehnologija glasi: „... uređaji i postupci koji se koriste za pristup, praćenje, istraživanje, procjenu, manipuliranje i oponašanje strukture i funkcije nervnih sistema životinja ili ljudi“, Preliminary study on the technical and legal aspects relating to the desirability of a standard-setting instrument on the ethics of neurotechnology, UNESCO, 6.4.2023. 101 Na primjer, the US Brain Research through Advancing Innovative Technologies (BRAIN) Initiative, the EU Human Brain Project, ili China Brain project, između ostalog. Vidi i Hermann Garden, David E Winickoff, Nina Maria Frahm, Sebastian Pfotenhauer, Responsible innovation in neurotechnology enterprises, OECD Science, Technology and Industry Working Papers 2019/05, str. 15; ili International Brain Initiative. 102 Recommendation of the Council on Responsible Innovation in Neurotechnology, Organisation for Eco- nomic Co-operation and Development, OECD/LEGAL/0457, usvojene 11.12.2019.

36 preporuke o etici neurotehnologije,103 UNESCO također razmatra etička, pravna i društvena pitanja i probleme koje sa sobom nosi primjena neuro- tehnologija u vezi s ljudskim pravima i ljudskim dostojanstvom, uključujući „autonomiju, privatnost, mentalni i fizički integritet, lični identitet, slobodu misli, rizik od diskriminacije, neravnopravnost i izazove po demokratiju (...).“ Nadalje, prepoznaje da osjetljivost intervencija u odnosu na vrlo složeni nervni sistem proizlazi iz njegove uloge u koordinaciji ponašanja i mentalnih procesa: „Omogućava ostvarivanje individualne autonomije, sposobnost djelovanja u svojstvu moralnih subjekata, odgovornost za postupke, sa- radnju s drugima, promišljanje o kolektivnim odlukama i razvoj ličnosti.“

Iako se neurotehnologija već neko vrijeme koristi u medicini, njeno spajanje s inženjerskim i kompjuterskim naukama, uz rast medicinskih i komercijalnih primjena, dramatično je promijenilo njen utjecaj, unaprijedivši medicinsku nauku, ali je donijelo i rizike po slobodu misli i druga ljudska prava.104

„... neviđena sposobnost koju [neurotehnologije] nude vanjskim ak- terima da utječu na uživanje prava pojedinca otvara krucijalna etič- ka pitanja i dovodi u pitanje samo razumijevanje temeljnih principa ljudskih prava“. Neurotehnologije su društveno razorne jer općenito: „(a) omogućavaju izloženost kognitivnih procesa, (b) omogućavaju direktnu promjenu mentalnih procesa i misli osobe, (c) zaobilaze svjesnu kontrolu ili svijest pojedinca, (d) omogućavaju neodobren vanjski pristup mislima, emocijama i mentalnim stanjima, (e) hrane se „neuropodacima“, koji su potrebni za njihovo vlastito funkcioniranje, kalibraciju i optimizaciju i (f) prikupljaju, analiziraju i obrađuju velike skupove ličnih podataka vrlo osjetljive prirode.“ — UN Human Rights Council Advisory Committee, Impact, opportunities and challenges of neurotechnology with regard to the promotion and pro- tection of all human rights, A/HRC.57/61, 8.8.2024.

Pored upotrebe u medicini, korištenje proizvoda temeljenih na neurotehno- logiji putem aplikacija i uređaja, igara, praćenja zdravlja, pomagala za medi- taciju ili čak ugrađenih u slušalice, omogućilo je tehnološkim kompanijama

103 Draft text of the Recommendation on the Ethics of Neurotechnology, UNESCO, 9.4.2025. 104 Savjetodavni odbor Vijeća za ljudska prava, A/HRC.57/61.

37 da dobiju pristup podacima o mozgu, što je imalo posljedice po slobodu misli.105 UNESCO tvrdi da: „Kompanije mogu koristiti neuronske podatke dobivene iz neinvazivnih neurotehnoloških uređaja u marketinške svrhe. Otkrivanjem signala povezanih s našim sklonostima i izborima, te kompanije mogu utjecati na ponašanje kupaca radi maksimalnog povećanja profita. Time se otvaraju alarmantna pitanja o efektima nadzora, marketinških tak- tika i političkog utjecaja na naše najintimnije misli i emocije, što u konačnici ugrožava demokratije naših država i temelje društva u cjelini.“106 Druge sen- zorske tehnologije mogu indirektno prikupljati podatke o našoj neuronskoj aktivnosti (npr. praćenje očiju, prepoznavanje i analiza glasa, prepoznavanje emocija lica, itd.) i postaju problem kada se koriste za donošenje zaključaka o mentalnim stanjima.107

„Ovdje nije u pitanju samo zdravlje, nego naš pogled na ljudsku oso- bu, naše dostojanstvo i punu sposobnost ostvarivanja naših prava u kontekstu tenzije između zdravstvenih potreba i tržišnih ciljeva. S jedne strane, imamo velike zdravstvene potrebe, budući da na bo- lesti nervnog sistema, neurološke i mentalne bolesti otpada trećina naših zdravstvenih troškova (...). S druge strane, na potrošačkom tržištu „neuronski podaci“ (ili „podaci o mozgu“) postaju tražena vrsta podataka i robe izvan medicinskog sektora, uključujući digitalno fe- notipiranje, afektivno računarstvo, neuroigre i neuromarketing. Među problemima koje neurotehnologije izazivaju treba spomenuti i javno povjerenje, poštovanje mentalne privatnosti, brzi tehnološki i eko- nomski razvoj te činjenicu da se takav razvoj malo ili slabo nadzire“. — Hervé Chneiweiss, Ethics issues and global governance of neurotech- nologies, in The risks and challenges of neurotechnologies for human ri- ghts, UNESCO, University of Milan-Biocca, and State University of New York (SUNY) Downstate, 2023, str. 48.-49.

U spomenutom izvještaju, Savjetodavni odbor Vijeća UN-a za ljudska pra- va zaključuje kako neurotehnologije utječu na ljudska prava na jedinstven način. U izvještaju se razmatraju i opisuju glavni rizici po ljudska prava,

105 Farahany, The Battle for Your Brain. 106 Ethics of neurotechnology, UNESCO web stranica. 107 UNESCO, Draft text of the Recommendation on the Ethics of Neurotechnology.

38 uključujući pravo na slobodu misli, koje donosi novo okruženje neuroteh- nologija i njihova (moguća) upotreba:

y Tehnologije koje su prvobitno razvijene kako bi pomogle osobama s neurološkim problemima sada se razvijaju i prodaju u komercijalne svrhe kao aplikacije za „kognitivno poboljšanje“ i druge, nemedicinske svrhe. Ove tehnologije bi korisnicima omogućile da mislima kontroliraju određe- ne elemente vanjskog okruženja ili da komuniciraju s drugima koji imaju ugrađene slične tehnologije. Iako medicinska rješenja koja one pružaju znaju biti revolucionarna, nedostatak odgovarajućih etičkih okvira i okvi- ra ljudskih prava kada su u pitanju nemedicinski uređaji izaziva značajnu zabrinutost, posebno u pogledu slobode misli i nediskriminacije, u što spada i osiguranje jednakog pristupa medicinskim uslugama. Zabrinu- tost zbog moguće ugroženosti prava djece postoji npr. ako se sučelja mozak-računalo (koja nisu testirana u smislu kratkoročnih ili dugoročnih posljedica po fizičko ili mentalno zdravlje) koriste u igrama ili tamo gdje neurotehnološki uređaji mogu poboljšati intelektualne sposobnosti.

y Čak i ako potpuno „čitanje misli“ još nije moguće, neurotehnologije unaprijeđene umjetnom inteligencijom sve su sposobnije za donošenje suptilnih zaključaka o mislima i mentalnim stanjima te omogućavaju pro- filiranje osoba na posebno invazivne načine. Otvaraju se specifična pita- nja o privatnosti jer neurotehnologije mogu generirati detaljne zaključke o identitetima ljudi (uključujući osobine ličnosti, kognitivne performanse ili seksualnu orijentaciju). Dodatni rizici pojavljuju se ako se ovi podaci koriste u pravosudnim ili nacionalnim sigurnosnim sistemima, prilikom ispitivanja osumnjičenih osoba ili svjedoka, uključujući detektore laži koji su unaprijeđeni uz pomoć neurotehnologije. To bi moglo dovesti do kršenja prava osobe da ne svjedoči protiv sebe i rizika od kažnjavanja pojedinaca zbog njihovih misli. To uključuje situacije u kojima je tehno- logija još uvijek previše neprecizna da bi mogla dati tačne podatke o određenim mislima. Otkrivanje neizrečenih misli bez pristanka „vlasnika“ u suprotnosti je sa suštinom slobode misli.108

y Uređaji za praćenje mentalnog stanja već su u upotrebi u radnim sre- dinama, posebno u ekstremnim uvjetima, kako bi se osigurala budnost

108 Savjetodavni odbor Vijeća za ljudska prava, A/HRC.57/61.

39  i izbjegle nesreće zbog umora.109 Iako su ulozi možda visoki, njihovo korištenje otvara ozbiljna pitanja o ljudskim pravima, uključujući prava radnika i slobodu misli. To bi moglo otvoriti vrata neuronadzoru u svrhu produktivnosti.110 EU je kroz svoj Akt o umjetnoj inteligenciji poduzela korake ka rješavanju ovog problema u specifičnim okruženjima.111 Op- ćenito, s obzirom na njihove nepoznate dugoročne posljedice, poseb- no ako se primjenjuju bez jasnog etičkog nadzora i praćenja stepena poštivanja ljudskih prava, primjena ovih tehnologija od strane korisnika predstavlja rizik kako za lični integritet tako i za (mentalno) zdravlje.

y Ranjive kategorije, poput starijih osoba, djece, osoba s invaliditetom i osoba lišenih slobode ili u pritvorskim okruženjima posebno su izložene riziku sve dok se ne osigura odgovarajuća regulacija razvoja i korište- nja neurotehnologija. Postoje posebni problemi u vezi s pristankom, koji uvijek treba biti prethodno dat, slobodan, na osnovu odgovaraju- ćih informacija, stvaran, transparentan, djelotvoran i nikad zasnovan na pretpostavkama. S obzirom na medicinske svrhe za koje se mnoge od ovih tehnologija razvijaju, osobe s invaliditetom i njihovi predstavnici bi npr. trebali biti uključeni u proces razvoja, a njihove potrebe, prava i perspektive kao krajnjih korisnika trebaju biti prioritet. Poštovanje prava osoba s invaliditetom uključuje i osiguranje njihovog potpunog pristupa neurotehnologijama nakon njihovog razvoja, te da one budu sigurne, djelotvorne i da poštuju ljudska prava u svom dizajnu, razvoju i korište- nju.112 Ovaj pristup usklađen je i sa socijalnim modelom Konvencije o pravima osoba s invaliditetom, putem kojeg se invaliditet posmatra kao dio ljudske raznolikosti i društva, za razliku od ableističkog medicinskog modela s tradicionalnim fokusom na prevenciju i liječenje.113

109 Ovo obuhvata područja poput rudarstva, izgradnje, kamionskog prevoza, avioprevoza, željeznica. Fara- hany, The Battle for Your Brain. See also José M. Muñoz, Laura Isaza, and Tarini Mehta, Tech is coming for your brain data: how a Chilean politician turbocharged the “neurorights” movement, The Boston Globe, 10.9.2024. 110 Savjetodavni odbor Vijeća za ljudska prava, A/HRC.57/61. 111 High-level summary of the AI Act, EU Artificial Intelligence Act, 27.2.2024., ažurirano 30.5.2024. Prema ovom Aktu, zaključivanje o emocijama na radnom mjestu ili u obrazovnim institucijama, osim u medicin- ske ili sigurnosne svrhe, spada u zabranjene UI sisteme. Vidi i Nora Santalu, Neurotechnologies under the EU AI Act: Where law meets science, IAPP, 12.5.2025. 112 Savjetodavni odbor Vijeća za ljudska prava, A/HRC.57/61. 113 International Disability Alliance, Submission to the Human Rights Committee Advisory Committee call for inputs on neurotechnology and human rights, 2.7.2023., vidi i OHCHR Neurotechnology and human rights web stranica.

40 Propisima bi se trebalo ciljati na zaštitu ljudskih prava definiranjem jasnih okvira za komercijalnu upotrebu koji su u skladu s ljudskim pravima, gdje bi, istovremeno, postizanje medicinskih otkrića trebalo biti prioritet.

41 6. Regulatorni okviri

Regulacija umjetne inteligencije tokom cijelog njenog životnog ciklusa za- ostaje za jednim od najbrže rastućih, najsloženijih i najutjecajnijih područja u historiji čovječanstva. Iako postoje razni neobavezujući dokumenti na regionalnom ili globalnom nivou, ne postoji jedinstveni, univerzalni, pravno obavezujući standard o umjetnoj inteligenciji koji bi štitio ljudska prava.114

Usvajanjem Preporuke o etici UI 2021. godine, na Općoj konferenciji UNESCO-a prepoznati su „duboki i dinamični pozitivni i negativni utjecaji umjetne inteligencije (UI) na društva, okoliš, ekosisteme i ljudske živote, uključujući ljudski um, dijelom zbog novih načina na koje njena upotreba utječe na ljudsko razmišljanje, interakciju i donošenje odluka te utje- če na obrazovanje, humanističke, društvene i prirodne nauke, kulturu, komunikaciju i informacije.“ Preporuka prvenstveno ima za cilj zaštititi ljudska prava i dostojanstvo, na osnovu niza principa kao što su tran- sparentnost, pravednost i ljudski nadzor. U preambuli ove Preporuke upozorava se i na različite asimetrije moći oko UI, koje stvaraju različite i ozbiljne rizike i potencijalne posljedice, te je izražena potreba za jačom globalnom saradnjom i solidarnošću, uključujući multilateralni pristup.

— Preporuka o etici umjetne inteligencije, UNESCO, 23.11.2024.

Reguliranjem ovog područja putem Akta o UI, EU je ostvarila značajan napre- dak, između ostalog i u zaštiti ljudskih prava. Budući da je tek nedavno usvojen i potrebne su daljnje smjernice i razvoj instrumenata, kao i okviri za provedbu na državnom nivou, njegova sposobnost da ublaži utjecaje na ljudska prava još uvijek nije potvrđena u praksi. Vijeće Evrope je 2024. godine usvojilo i Okvir- nu konvenciju o umjetnoj inteligenciji, ljudskim pravima, demokratiji i vladavini prava, koja svojim okvirom obuhvata veći broj država.115

114 Artificial Intelligence, UNESCO web stranica; UNESCO, Draft text of the Recommendation on the Ethics of Neurotechnology; Artificial intelligence, OECD web stranica; Governing AI for Humanity: Final Report, Savjetodavno tijelo UN-a o UI, septembar 2024.; UN Global Digital Compact. 115 Mogu je potpisati i države koje nisu članice Vijeća Evrope koje su pomogle u njenoj izradi, a postoje posebne, odvojene procedure koje omogućavaju takvim državama da se pridruže. Od januara 2025. godine, potpisale su je Sjedinjene Države i Izrael, kao države nečlanice VE. Kako bi postala obavezujuća, moraju je i ratificirati.

42 Iako su izražene i zabrinutosti u pogledu opsega i djelotvornosti zaštite oba ova instrumenta,116 važno je da se dokumenti poput Okvirne konvencije ratificiraju, u potpunosti provedu i ojačaju gdje je to potrebno. To zahtijeva resurse i volju pojedinačnih država i, u slučaju Akta EU o umjetnoj inteli- genciji, institucija EU. Iako nisu pravno obavezujući i ne mogu zamijeniti regulatorne okvire, industrijski standardi također doprinose uspostavljanju etičkih okvira.117 ODIHR ukazuje i na rastući broj akademskih istraživanja i inicijativa koje se posebno bave potrebom za globalnim regulatornim okvi- rima i doprinose raspravama o ovoj temi.118

Akt EU o umjetnoj inteligenciji predstavlja do sada najsveobuhvatniji pokušaj uspostavljanja regulatornog okvira za razvoj i korištenje umjetne inteligenci- je, znatno napredniji u odnosu na druge regulatorne okvire. Definira pristup zasnovan na procjeni rizika, pri čemu sisteme umjetne inteligencije razvr- stava u kategorije: zabranjeni, visokorizični, ograničenog rizika i minimalnog rizika. Regulira umjetnu inteligenciju opće namjene, odnosno sisteme za- snovane na temeljnim modelima, poput GenAI-a, te nameće niz obaveza, uključujući transparentnost i odgovornost. Definira i umjetnu inteligenciju opće namjene koja predstavlja sistemske rizike (tj. moćne modele), za koje propisuje dodatne zahtjeve te pojašnjava da se takvi sistemi mogu koristiti kao visokorizični sistemi umjetne inteligencije ili biti integrirani u njih, što sa sobom nosi posebne obaveze saradnje radi osiguravanja njihove usklađe- nosti s Aktom. Važno je napomenuti da modeli umjetne inteligencije opće namjene dostupni pod slobodnim i otvorenim licencama podliježu manjem broju obaveza prema Aktu EU o umjetnoj inteligenciji.119 Okviri zasnovani na procjeni rizika poput Akta EU o umjetnoj inteligenciji mogu poslužiti kao model i za druge regije.

116 Vidi EU: Artificial Intelligence rulebook fails to stop proliferation of abusive technologies, Amnesty International, 13.3.2024. i ENNHRI Calls on Council of Europe member States to ensure strong human rights protection in the draft Convention on AI, Human Rights, Democracy and Rule of Law, ENNHRI, 17.5.2024. Radi sveobuhvatne analize Akta i drugih sličnih zakona, vidi Sandra Wachter, Limitations and Loopholes in the EU AI Act and AI Liability Directives: What This means for the European Union, the United States, and Beyond, Yale Journal of Law and Technology, tom 26., izdanje 3., str. 671.-718. Radi diskusije o specifičnim neurotehnologijama i nedostacima Akta EU, vidi Christoph Bublitz, Banning biometric mind reading: the case for criminalizing mind probing, Law, Innovation and Technology, tom 16., izdanje 2., str. 432.–462. 117 Vidi, IEEE Frameworks, Institute of Electrical and Electronics Engineers (IEEE) Tech Ethics. 118 Vidi, Alexander Kriebitz, Caitlin C Corrigan (eds.), Promoting and Advancing Human Rights in Global AI Ecosystems: The Need for A Comprehensive Framework under International Law, februar, 2025. 119 High-level summary of the AI Act, EU Artificial Intelligence Act, 27.2.2024., ažuriran 30.5.2024.

43  Zabranjeni sistemi umjetne inteligencije uključuju one koji: koriste subliminalne, manipulativne ili obmanjujuće tehnike s ciljem promjene ponašanja i narušavanja informiranog donošenja odluka, pri čemu uzrokuju značajnu štetu; iskorištavaju ranjivosti pojedinaca (npr. dob, invaliditet, socioekonomske okolnosti) kako bi utjecali na njihovo po- našanje na način koji može uzrokovati značajnu štetu; biometrijske sisteme kategorizacije (uz izuzetak organa za provedbu zakona), pro- vode društveno vrednovanje zasnovano na društvenom ponašanju ili osobinama ličnosti; procjenjuju rizik da će pojedinac počiniti kazneno djelo isključivo na osnovu profiliranja ili osobina ličnosti, osim kad se koriste kao podrška ljudskoj procjeni zasnovanoj na objektivnim i provjerljivim činjenicama direktno povezanim s kriminalnom aktiv- nošću; kreiraju baze podataka za prepoznavanje lica putem nese- lektivnog prikupljanja slika lica s interneta ili sistema videonadzora; zaključuju o ​​ emocijama osoba na radnim mjestima ili u obrazovnim ustanovama, osim u slučajevima zdravstvenih ili sigurnosnih razloga; vrše daljinsku biometrijsku identifikaciju u stvarnom vremenu i na javnim mjestima za potrebe provedbe zakona, uz određene izuzetke koji zahtijevaju, između ostalog, procjenu utjecaja na osnovna prava.

Pružaoci visokorizičnih sistema UI podliježu specifičnim zahtjevima koji se, između ostalog, odnose na upravljanje rizicima, kvalitet po- dataka, transparentnost, odgovornost i ljudski nadzor. Prije stavljanja u upotrebu, uz određene izuzetke i pod propisanim uvjetima, takvi sistemi moraju proći i procjenu utjecaja na osnovna prava. Siste- mi umjetne inteligencije koji profiliraju pojedince uvijek se smatraju visokorizičnim. — Isječak iz High-level summary of the AI Act, EU Artificial Intelligence Act web stranica, 27.2.2024., ažuriran 30.5.2024.

Prije Akta o umjetnoj inteligenciji, EU je usvojila Akt o digitalnim uslugama (DSA), koji regulira online platforme i posredničke usluge, sa specifičnim pravilima za vrlo velike platforme i pretraživače. Fokus DSA je i na rješavanju sistemskih rizika, uključujući rizike povezane sa nezakonitim sadržajem, slobodom izražavanja, slobodom i pluralizmom medija, diskriminacijom, zaštitom potrošača i pravima djece, javnom sigurnošću i izbornim procesi- ma, rodno zasnovanim nasiljem te mentalnim i fizičkim blagostanjem. Tako- đer zahtijeva određeni nivo transparentnosti i nadzora od strane nadležnih

44 tijela, kao i mogućnost korištenja sistema preporuka koji se ne temelje na profiliranju korisnika.120

Ovaj regulatorni okvir EU-a djeluje u izuzetno složenoj oblasti, a njegovi efekti tek postaju vidljivi i razumljivi. Potrebni instrumenti i institucionalni okviri, posebno na državnom nivou, još se uvijek razvijaju i uspostavljaju u vrijeme pisanja ovog teksta.121 Nadalje, napredovanje ka osiguranju zaštite ljudskih prava u vezi s umjetnom inteligencijom kroz propise nije završe- no.122 Iako važan, okvir EU-a ne odnosi se na sve države članice OSCE-a, a kamoli na čitav svijet, zbog čega postoji potreba za globalnim regulatornim pristupom.123 I Akt EU o umjetnoj inteligenciji i Okvirna konvencija Vijeća Evrope sadrže izuzetke kad je u pitanju nacionalna sigurnost. S obzirom na to da je EU najnapredniji regulator umjetne inteligencije na svijetu, ovi izuzeci izazivaju značajne zabrinutosti u vezi s ljudskim pravima, te poten- cijalno mogu doprinijeti novoj globalnoj utrci u naoružanju, gdje se nadmoć u dometima umjetne inteligencije smatra ključem dominacije.124 Kako bi se takvi rizici ublažili, međunarodna saradnja je ključna za razvoj usklađenih standarda koji bi zatvorili postojeće praznine i spriječili zloupotrebe, te isto- vremeno podstakli odgovorne inovacije.

Iako razvoj proizvoda u oblasti medicine podliježe određenim propisima, neurotehnologije koje se razvijaju u komercijalne svrhe nose nove rizike po ljudska prava i osnovne slobode. Zato su potrebni jači okviri zaštite. Uzimajući u obzir da postoje određeni, ali općenito ograničeni, elemen- ti regulacije na nacionalnom ili regionalnom125 nivou ili unutar Akta EU o umjetnoj inteligenciji, ne postoje univerzalni, međunarodni, pravno obave- zujući standardi o neurotehnologijama. U okviru UNESCO-a, države članice

120 Evropska komisija, DSA: Very large online platforms and search engines (web stranica ažurirana 12.2.2025.) i evropska komisija, The Digital Services Act package (web stranica ažurirana 12.2.2025.). 121 Vidi Towards meaningful fundamental rights impact assessments under the DSA, European Center for Not-for-Profit Law and Access Now, 15.9.2023. i Aninda Chakraborty, LatticeFlow AI un-veils EU compli- ance framework for Generative AI, Tech Monitor, 17.10.2024. Overview of all AI Act National Implemen- tation Plans, EU Artificial Intelligence Act web stranica, 8.11.2024. (ažurirana 19.5.2025.). 122 Withdrawal of the AI Liability Directive Proposal Raises Concerns Over Justice for AI Victims, Center for Democracy and Technology, 12.2.2025. 123 Neke države nečlanice OSCE-a usvojile su razne regulatorne okvire, ali nisu predmetom ove analize. EU je i dalje najnapredniji regulator na ovom polju. 124 Ilaria Carroza, Nicholas Marsh and Gregory M. Reichberg, Dual-Use AI Technology in China, the US and the EU: Strategic Implications for the Balance of Power. PRIO Paper, (Oslo: PRIO, 2022.). 125 Vidi, na primjer, OECD, Recommendation of the Council on Responsible Innovation in Neurotechnology. OECD/Legal/0457, usvojene 11.12.2019.

45 trenutno pregovaraju o prvom, neobavezujućem, globalnom instrumentu za postavljanje standarda o etici neurotehnologije, koji proizlazi iz ranijeg rada o etici umjetne inteligencije.126 Osim toga, potrebna je sveobuhvatna regulacija koja će obuhvatiti punu složenost novih izazova koje predstav- ljaju neurotehnologije, kako kroz postojeće okvire zaštite koji bi se mogli proširiti i obuhvatiti specifične nove rizike po ljudska prava, tako i kroz nove instrumente o razvoju i korištenju neurotehnologija.

U izvještaju iz 2024. godine,127 Specijalni izvjestilac UN-a za pravo na pri- vatnost predložio je tekst rezolucije kojom se ažurira Rezolucija Generalne skupštine iz 1990. godine, br. 45/95, pod nazivom „Smjernice za regulaciju kompjuterizovanih baza podataka“. Predloženi tekst navodi da se obrada neuropodataka „ne smije koristiti za manipuliranje ili mijenjanje slobode misli i svijesti pojedinca, čineći ga ovisnim o trećoj strani ili mijenjanje njegove ideje, sigurnosti ili neovisnosti ili njegovog prirodnog moždanog identiteta ili neurokognitivnog integriteta“. Nadalje, takvi podaci ne smiju se „obrađivati u svrhe koje nisu promocija zdravlja, dijagnostika, rehabilitacija i ublaža- vanje bolesti u kontekstu prava na zdravlje i naučnih istraživanja na polju biologije, psihologije i medicine čiji je cilj ublažavanje patnje i poboljšanje zdravstvenog stanja“. U aprilu 2025. godine, putem Rezolucije 58/6, Vi- jeće UN-a za ljudska prava prepoznalo je da „kontinuirani razvoj nekih od njenih aplikacija može pokrenuti izvjestan broj etičkih, pravnih i društvenih pitanja s implikacijama po ljudsko dostojanstvo i autonomiju, zbog čega je neophodno da se ljudska prava efektivno poštuju, štite i ispunjavaju u ovom kontekstu”. Vijeće je zatražilo od Savjetodavnog odbora da izradi niz smjernica za primjenu postojećeg okvira za ljudska prava na koncept, dizajn, razvoj, testiranje i korištenje neurotehnologija.128

I pored složenosti i implikacija koje su još uvijek nejasne, razumijevanje ljudi o tome kako društvene mreže koriste njihove podatke brzo se poboljšalo posljednjih godina. Nasuprot tome, njihovo razumijevanje implikacija po ljudska prava u smislu otkrivanja njihovih neuropodataka je još na izrazito

126 The Ethics of Neurotechnology: UNESCO appoints international expert group to prepare a new global standard, Izdanje za štampu UNESCO-a, 22.4.2024. 127 A/79/173: Izvještaj Specijalnog izvjestioca za pravo na privatnost, Ane Brian Nougrères – Prijedlog ažuriranja Rezolucije Generalne skupštine br. 45/95 od 14.12.1990., pod nazivom „Smjernice za regu- laciju kompjuterskih datoteka ličnih podataka“, OHCHR, 17.7.2024. 128 Human rights guidelines on neurotechnology, web stranica Vijeća UN-a za ljudska prava.

46 niskom nivou, posebno s obzirom na nepostojanje odgovarajućeg regula- tornog okvira.129

„Revolucija umjetne inteligencije“ dobila je ime po načinu na koji i dalje transformira ljudski život. Ali, ova se revolucija uglavnom dogodila bez ikakve javne rasprave ili doprinosa u donošenju odluka. Imati potrošače na digitalnom tržištu, koji su samo djelomično svjesni svojih izbora i nad njima imaju ograničenu kontrolu nije isto što i voditi demokratsku raspra- vu. Isto tako, brzi razvoj neurotehnologija, posebno komodifikacija uređaja koji komuniciraju s ljudskim mozgom ili neuronskim krugovima, utječu na ljudska prava na neviđen i snažan način. Države članice OSCE-a dužne su ponovo uspostaviti uvjete potrebne za javnu raspravu o pitanjima od ključne društvene važnosti. Pitanja poput „kognitivnog poboljšanja“ zdravih oso- ba, na primjer, ili možda čak „povećanja ljudskih sposobnosti“, imaju tako duboke implikacije po čovječanstvo da zaslužuju istinsku i temeljitu javnu raspravu kako bi se mogle donijeti ispravne odluke o tome kako regulirati takve tehnologije. Rasprave i donošenje odluka moraju uključivati širi ​​ krug ljudi, a ne samo malobrojne koji učestvuju u razvoju tehnologije ili nekolicinu uključenih u istraživanje koji mogu tvrditi da imaju odgovarajuće mišljenje o toj temi.130 Čak i ako su teme složene, njihove implikacije po društvo treba pažljivo sažeti u jasno razumljive informacije i podijeliti s javnošću radi istin- ske demokratske rasprave o tome treba li koristiti umjetnu inteligenciju ili ne.

„Čitava pompa oko umjetne inteligencije (...) isisala je zrak iz ionako zagušljive prostorije, da se čini uzaludnim, ponekad nemogućim, zamisliti išta drugo osim stalnog marširanja ka neizbježnoj nadmoći umjetne inteligencije. Ali bez obzira koliko se to činilo istinito, to je samo osjećaj. Nije stvarnost, barem ne još uvijek. Zapravo, posto- je mnoge alternative ovoj verziji umjetne inteligencije, mnogi načini oblikovanja novih svjetova. Međutim, kao i umjetna inteligencija, ni one nisu neizbježne. Uvođenje tih alternativa počinje postavljanjem i odgovaranjem na jedno pitanje: Je li ovo svijet koji želimo?“ — Kate Brennan, Amba Kak and Dr. Sarah Myers West, Artificial Power: 2025 Landscape Report, AI Now Institute, 3. 6. 2025., str. 9. i 12.

129 Farahany, The Battle for Your Brain. 130 Vidi i OECD, Recommendation of the Council on Responsible Innovation in Neurotechnology, Recom- mendation No. 5: Enable societal deliberation on neurotechnology.

47 7. Zaključci i preporuke

Potreba za zaštitom prava na slobodu misli postaje sve hitnija, s obzirom na mjeru u kojoj tehnologije utemeljene na UI oblikuju i društva i svijest po- jedinaca o sebi. Trenutni okvir za razvoj i primjenu tih tehnologija produbljuje neravnotežu moći i predstavlja rizik po demokratiju. Misli i donošenje odluka moraju biti zaštićeni od novih oblika suptilne, ali djelotvorne manipulacije, dok neizrečene misli moraju ostati privatne. U nedostatku odgovarajućih regulatornih okvira za zaštitu ljudskih prava, širenje tehnologija temeljenih na UI čini se da zamagljuje, ako ne i briše, konture demokratske i javne odgovornosti. Države su dužne poštivati i štititi ljudska prava, što zahtijeva posebnu regulaciju na državnom i međunarodnom nivou. Države možda kasne s izradom propisa, ali još uvijek ima vremena za to, posebno za potrebe razvoja i korištenja neurotehnologija za ublažavanje rizika od štete širokih razmjera koju mogu prouzročiti.

Nadovezujući se na niz neiscrpnih kriterija koje je predložio Specijalni izvjestilac UN-a za slobodu vjeroispovijesti ili uvjerenja kako bi se, od slučaja do slučaja, procijenilo šta može predstavljati nedopušte- nu manipulaciju mislima, Susie Alegre i Aaron Schull opisuju skup faktora potrebnih za pravni test procjene tehnološki omogućene, nezakonite manipulacije. Napominju da se pravo na slobodu misli, kao dio općeg okvira UN-a za ljudska prava, „razvilo kao odgovor na zločine koje je počinila nacistička Njemačka uz prepoznavanje neviđenih rizika koje nosi ispiranje mozga stanovništva po ljudska prava u širem smislu“. Granice koje okružuju zaštitu prava na slobo- du misli ključne su za budućnost demokratije i ljudskih prava širom svijeta.” Dalje predlažu da se „na osnovu Općeg komentara Vijeća za ljudska prava utvrdi novi pravni test kojim se uzima u obzir niz dodatnih faktora: y Obim i razmjere primjene prakse; y Da li su građani općenito ili relevantni pojedinci svjesni taktike utjecanja; y Da li šira javnost ili relevantni pojedinci mogu razumjeti utjecaj određene prakse;

48  y Da li je praksa osmišljena kako bi zaobišla moć rasuđivanja; y Intenzitet i vremenski period izloženosti; y Ciljanje na posebne kognitivne predrasude ili ranjivosti (posebno na osnovu „insajderskog znanja“ dobivenog iz podataka); y Bilo kakva neravnoteža moći; i y Praktična mogućnost da se kaže – „ne“. — Susie Alegre and Aaron Schull, Freedom of Thought: Reviving and Pro-tecting a Forgotten Human Rights, Center for International Governance Innovation, 2024., str. 12.

U svjetlu argumenata iznesenih u ovom dokumentu i radi stvaranja poticajnog okruženja za slobodu misli, državama članicama OSCE-a preporučuje se da:

y Usvoje politike, zakone i propise zasnovane na ljudskim pravi- ma na državnom nivou i uspostave institucionalnu infrastrukturu kako bi se osiguralo poštivanje, zaštita i ispunjenje prava na slobodu misli i svih ljudskih prava i osnovnih sloboda, u kontekstu rastuće uloge tehnologija utemeljenih na UI i onih koje koriste UI, uključujući neuro- tehnologije. Osim toga, kako bi se osiguralo poštivanje ljudskog dosto- janstva i demokratskih principa, ključno je regulirati neurotehnologije isključivo na temelju etičkih i ljudskih prava, uz izbjegavanje poslovnog modela društvenih mreža i zauzimanje pristupa zasnovanih na provjeri rizika, te uz osiguranje zaštite ljudskih prava tokom cijelog životnog ciklusa UI kojeg razvija industrija.

y Usvoje metodologije procjene utjecaja na ljudska prava kao stan- dardnu praksu, ​​ gradeći pravni i institucionalni okvir potreban za osigu- ranje široke primjene takvih metodologija. Ovi alati moraju dati prioritet poštovanju, zaštiti i ostvarivanju ljudskih prava tokom cijelog životnog ciklusa UI te se, kroz redovno preispitivanje, prilagođavati brzom tempu razvoja UI i novim izazovima u oblasti ljudskih prava koje ona donosi.

y Razviju alate za ugradnju slobode misli u procjene utjecaja na ljudska prava za sve tehnologije utemeljene na UI, kako u smislu za- sebnog prava tako i u međusobnoj ovisnosti s drugim pravima, posebno slobodom izražavanja i pravom na privatni život.

49 y Prikupljaju podatke o UI tokom cijelog njenog životnog ciklusa, prateći usklađenost sa standardima ljudskih prava (uključujući slobodu misli), moguće dobre prakse i načine ostvarivanja koristi od umjetne inteligencije, uz procjenu pristupačnosti i ravnoprav- nosti pristupa. S obzirom na brzo usvajanje novih tehnologija uteme- ljenih na UI u različitim područjima, svijet zaostaje ne samo u regulaciji, već i u djelotvornom praćenju i mapiranju potrebnom za razumijevanje posljedica po ljudska prava, predviđanje implikacija i prepoznavanje no- vih prilika. Države su dužne pratiti i osigurati poštivanje ljudskih prava. Posebna se pažnja posvećuje najranjivijima, uključujući osobe s invali- ditetom, djecu, starije ili osobe lišene slobode.

y Potiču i podržavaju nova istraživanja i konceptualna pojašnjenja o standardima promocije i zaštite slobode misli, posebno u kontekstu novih tehnologija utemeljenih na UI. To podrazumijeva međunarodnu ​​ sa- radnju u okviru UN-a (npr. donošenjem rezolucija Vijeća za ljudska pra- va), kao i kroz aktiviranje mehanizama UN-a za ljudska prava (npr. tra- ženjem općih komentara ili izvještaja) ili putem drugih sličnih sredstava.

y Sarađuju s obrazovnim sistemima i pripremaju ih da uzmu u obzir nove načine društvenog života i pomognu učenicima da razumiju i dje- luju kao kritički mislioci, autonomno i djelotvorno, kako bi mogli sačuvati svoju slobodu misli u svijetu koji sve više pokreće umjetna inteligencija. To će vjerojatno zahtijevati više od onoga što se trenutno radi na digital- nom opismenjavanju. Novi državni obrazovni planovi i programi trebali bi obuhvatiti sadržaj, vještine i ponašanja potrebna za pripremu sadašnjih i budućih generacija za ove promjene, koje utječu na sva područja života. Trebalo bi provoditi i kampanje za obuke odraslih osoba i širenje svijesti.

y Sarađuju ​​sa svim obrazovnim i edukacijskim ustanovama kako bi se osigurala edukacija o etici i ljudskim pravima za one koji rade ili odlučuju o korištenju umjetne inteligencije tokom cijelog njenog životnog ciklusa, kako bi se osiguralo da bude razvijena na način da poštuje i, u idealnom slučaju, jača zaštitu i poštivanje ljudskih prava. Obuka tokom studiranja (npr. na univerzitetu) i kontinu- irana obuka za one koji već rade trebale bi osigurati da oni koji razvijaju, uvode ili koriste umjetnu inteligenciju i nove tehnologije (od stručnjaka za podatke do inženjera i drugih) budu dovoljno obučeni o etičkim impli- kacijama tehnologije po ljudska prava, uključujući i one koje se odnose

50  na slobodu misli. Stručnjaci koji rade s umjetnom inteligencijom tokom cijelog njenog životnog ciklusa (uključujući one koji donose odluke o nabavci i primjeni) trebali bi znati kako provoditi procjene utjecaja na ljudska prava i ugraditi zaštitu ljudskih prava u tehnologije umjetne inte- ligencije već pri samom dizajnu.

y Štite neovisne medije i jačaju njihovu ulogu u javnom interesu na polju zaštite slobode misli, slobode mišljenja i slobode izražava- nja, uključujući i putem provedbe preporuka Predstavnika OSCE-a za slobodu medija o ovoj vrlo važnoj temi.131

y Potiču istinsku javnu raspravu o etičkim implikacijama UI i ne- urotehnologija i njihovim implikacijama po ljudska prava, uklju- čujući i po slobodu misli. Te bi rasprave trebale biti strukturirane i multidisciplinarne i uključivati različite ​​ aktere, posebno one čija bi prava mogla biti pogođena, ili krajnje korisnike tehnologija. Rasprave bi trebale uključivati medije ​​ od javnog interesa kako bi se širila svijest javnosti o tim implikacijama i osiguralo da se informacije sažimaju i omogućavaju adekvatne javne rasprave. Trebale bi biti transparentne i javno odgovor- ne, a rezultati bi se trebali odražavati u političkim odlukama.

y Sarađuju s neovisnim institucijama OSCE-a, kao što su ODIHR i Ured predstavnika za slobodu medija, kako bi se osigurala re- gulacija i primjena životnog ciklusa UI koji poštuje ljudska prava.

131 Za više informacija, vidi OSCE RFoM Spotlight on Artificial intelligence and Freedom of Expression — SAIFE Resource Hub and the Policy manual in particular as well as upcoming work on Media and Big Tech.

51

Think Again: Freedom of Thought in the Age of Artificial Intelligence POLICY BRIEF Think Again: Freedom of Thought in the Age of Artificial Intelligence POLICY BRIEF Acknowledgements ODIHR extends its sincere gratitude to those who generously shared their knowledge and expertise in the preparation of this document. Their thoughtful reviews and feedback at various stages of the process have been invaluable. ODIHR thanks the members of the ODIHR Panel of Ex- perts on Freedom of Religion or Belief, with special appreciation to Ahmed Shaheed, David Griffiths and Pasquale Annicchino for their insightful input. Thanks also go to the following for reviewing various drafts and offering important contributions: Cameran Ashraf, Christoph Bublitz, Hervé Chnei- weiss, Emily Elstub, Alexander Kriebitz and Simon McCarthy-Jones, as well as to colleagues within the office of the Representative of Freedom of the Media. Special thanks go to Benjamin Greenacre, whose discus- sions on this topic greatly enriched the final outcome and to Milena Costas Trascasas for her continued dialogue and spirit of cooperation. Think Again: Freedom of Thought in the Age of Artificial Intelligence Published by the OSCE Office for Democratic Institutions and Human Rights (ODIHR) ul. Miodowa 10 00-251 Warsaw Poland www.osce.org/odihr © OSCE/ODIHR 2025 All rights reserved. The contents of this publication may be freely used and copied for educational and other non-commercial purposes, provided that any such reproduction is accompanied by an acknowledgement of the OSCE/ ODIHR as the source. ISBN: 978-92-9271-453-6 Designed by Filip Andronik Contents

Executive summary ....................................................................................... 5

Introduction.................................................................................................... 7

1. On freedom of thought............................................................................. 9

2. On artificial intelligence.......................................................................... 14

Generative AI................................................................................................. 15

Corporate influence in the age of AI ............................................................... 17

3. The human rights implications of thinking within the algorithm .......... 20

AI, bias and thought....................................................................................... 20

Human oversight, transparency and accountability......................................... 23

4. Freedom of thought in reconfigured civic space................................... 26

The new civic space architecture impacting freedom of thought..................... 26

‘Information disorder’ alters genuine choice.................................................... 31

The impact of AI on human connection, thought development and the right to be forgotten....................................................................................... 33

5. Neurotechnology and freedom of thought ............................................ 37

6. Regulatory frameworks.......................................................................... 42

7. Conclusions and recommendations...................................................... 48 Executive summary

This policy brief provides a succinct introduction to the right to freedom of thought, noting that states have a positive duty to create an enabling envi- ronment for its full realization.1 It begins by framing freedom of thought as a foundational right that must be protected and promoted in all contexts. It then explores how emerging technologies, particularly artificial intelligence (AI) and neurotechnologies, are reshaping the landscape of thought. While such technologies, depending on how they are developed and deployed, can be used to enhance the enjoyment of human rights2 — for example, by improving access to diverse information, tailored to aid educational processes or support for medical advancements — they also present un- precedented risks. These require comprehensive assessments and robust safeguards before development, deployment or use.

The brief examines the implications for freedom of thought of the new informa- tion ecosystem, as well as the potential impacts of AI-based neurotechnolo- gies, which raise fundamental questions about the inviolability of individual mental autonomy. The policy brief also outlines recommendations for states to consider in upholding freedom of thought in the digital age. These include: y Regulatory and institutional safeguards to address emerging risks, par- ticularly those posed by AI and neurotechnologies y Ethical oversight mechanisms and mandatory human rights impact as- sessments embedded across the AI life cycle3 y Initiatives to ensure transparency, inclusive public debate and account- ability in decision-making processes

1 While recognizing the significant implications for freedom of thought of certain AI applications in the military, or in surveillance contexts, these areas are beyond the scope of this brief. 2 Theresa Addie, MS., Harnessing Technology to Safeguard Human Rights: AI, Big Data, and Accountabil- ity, Human Rights Research Centre, 8 April 2025; UN Special Rapporteur (UNSR) on Freedom of Religion or Belief (FoRB) Ahmed Shaheed, Report of the Special Rapporteur on freedom of religion or belief, A/76/380, 5 October 2021, paras. 2-4. 3 The UN Global Digital Compact, annexed to United Nations General Assembly resolution A/RES/79/1, on the Pact for the Future, adopted on 22 September 2024, includes the following under the life cycle of digital and emerging technologies: pre-design, design, development, evaluation, testing, deployment, use, sale, procurement, operation and decommissioning stages.

5 y Capacity-building through education and training on ethics and human rights for developers and operators of AI technologies y Strengthened roles for independent institutions in protecting freedom of thought and democratic values

The brief concludes that innovation that fails to consider and protect human rights from the outset will undermine the goals that should guide ethical, scientific and technological progress, namely to benefit humankind.4

Building on work by international organizations and academia on AI, neu- rotechnologies and human rights, this policy brief highlights the specific implications for freedom of thought. It is intended to serve as a foundation for further discussion and to inform the initiatives and actions of ODIHR, participating States and other stakeholders.

4 Declaration on the Use of Scientific and Technological Progress in the Interests of Peace and for the Benefit of Mankind, United Nations General Assembly Resolution 3384 (XXX), adopted 10 November 1975.

6 Introduction

As governments navigate the fast-evolving terrain of artificial intelligence (AI), including its integration in fields such as neurotechnology, a core but often overlooked right demands urgent attention: freedom of thought. Enshrined in the Universal Declaration of Human Rights (UDHR), alongside the right to freedom of conscience and religion, freedom of thought safe- guards an individual’s ability to think independently, form their own beliefs, make autonomous decisions and contribute new perspectives. This right fosters creativity, innovation and resilient, pluralistic societies.5

Freedom of thought also covers the freedom not to reveal one’s thoughts, as well as freedom from coercion, from punishment for one’s thoughts and from the impermissible alteration of thoughts.6 Recognizing the fun- damental nature of the right, OSCE participating States have committed to protecting freedom of thought, beginning with the Helsinki Final Act.7

5 International Covenant on Civil and Political Rights, United Nations, General Assembly resolution 2200A (XXI), adopted 16 December 1966, Art. 18: “1. Everyone shall have the right to freedom of thought, conscience and religion. This right shall include freedom to have or to adopt a religion or belief of his choice, and freedom, either individually or in community with others and in public or private, to manifest his religion or belief in worship, obser- vance, practice and teaching. 2. No one shall be subject to coercion which would impair his freedom to have or to adopt a religion or belief of his choice. 3. Freedom to manifest one’s religion or beliefs may be subject only to such limitations as are pre- scribed by law and are necessary to protect public safety, order, health, or morals or the fundamen- tal rights and freedoms of others. 4. The States Parties to the present Covenant undertake to have respect for the liberty of parents and, when applicable, legal guardians to ensure the religious and moral education of their children in conformity with their own convictions.” 6 This refers to any modification of thoughts done in a manner that runs counter to human rights stan- dards, including through brain alteration and manipulation. See Ahmed Shaheed, Report of the Special Rapporteur. 7 The Helsinki Final Act of the 1st Summit of Heads of State or Government, Conference for Security and Co-operation in Europe (CSCE), 1 August 1975, acknowledges as one of its ten guiding principles the “respect for human rights and fundamental freedoms, including the freedom of thought, conscience, religion or belief”. The right was re-affirmed in multiple subsequent OSCE documents (e.g.: Concluding Document of the Third Follow-up Meeting, Vienna, 4 November 1986 to 19 January 1989; Document of the Copenhagen Meeting of the Conference on the Human Dimension of the CSCE, 29 June 1990; OSCE Ministerial Council, Decision No. 4/03, “Tolerance and Non-discrimination”, Maastricht, 2 Decem- ber 2003; OSCE Ministerial Council, Decision No. 3/13 “Freedom of Thought, Conscience, Religion or Belief”, Kyiv, 9 December 2013).

7 Yet, given the rapid development of new technologies, including AI and neurotechnologies, realization of the right to freedom of thought is coming under pressure. As these technologies increasingly shape how we think, communicate and interact, they raise complex legal, ethical and societal questions that require attention and action from participating States.

8 1. On freedom of thought

Article 18 of the Universal Declaration of Human Rights (UDHR) protects the right to “freedom of thought, conscience and religion”.8 The emphasis is usually placed on religion, with Article 18 often contracted to “freedom of religion or belief” or “religious freedom”. Until recently, the inherent protec- tion of freedom of thought was considered so self-evident that a definition seemed unnecessary, despite it being foundational to human dignity and autonomy and to all other human rights. While René Cassin, who co- drafted the UDHR, described freedom of thought as “the origin of all other rights”, neither he nor the other drafters elaborated on it further, and little jurisprudence on freedom of thought has followed.9

At the same time, in the aftermath of the Second World War, drafters of the UDHR were keenly aware of how this right could be threatened. Attempts at influencing or altering thought, or punishing real or presumed thought and opinion have a long history.10 People who diverge from the mainstream by thinking differently and challenging existing norms have become targets of coercive actions, which tend to increase with autocracy.11

Despite the lack of a definition in international law over what precisely con- stitutes ‘thought’,12 it is, nonetheless, possible to identify its contours, and the attributes necessary to work for its protection in practice.

As part of Article 18 of the UDHR and the International Covenant on Civil and Political Rights (ICCPR), this right has generally been understood in 8 Universal Declaration of Human Rights, UNGA resolution 217 A, 10 December 1948. 9 Ahmed Shaheed, Report of the Special Rapporteur. 10 From Nazi propaganda that led to the Holocaust to totalitarianism and authoritarianism and other situations where states have taken measures that interfere with freedom of thought, such as interventions to prevent violent extremism and radicalization leading to terrorism. See, for example, ‘This is the Thought Police’: The Prevent Duty and Its Chilling Effect on Human Rights, (London: Amnesty International, 2023); UN Special Rapporteur (UNSR) on Freedom of Religion or Belief (FoRB) Ahmed Shaheed, Report on the relationship between freedom of religion or belief and national security, A/73/362, 5 September 2018, para. 43. 11 71% of the world population was living under autocratic regimes in 2023 compared to 50% in 2003; in 2024, 42 countries (hosting 35% of the world population) were going through ‘autocratization’ and 18 countries (hosting 5% of the world population) were going through democratization. See Marina Nord, Martin Lundstedt, and Staffan I Lindberg, Media Freedom, Democracy, and Security, Research Report, OSCE/RFoM, 15 July 2024, p. 6. 12 Ahmed Shaheed, Report of the Special Rapporteur, para. 11.

9 relation to freedom of conscience and freedom of religion or belief. However, freedom of thought does not only apply to religious thought. The UN Human Rights Committee, which provided an authoritative interpretation of ICCPR Article 18 in General Comment 22, explained that it “encompasses freedom of thought on all matters”.13

Importantly, no derogation can be made from Article 18, meaning that states cannot suspend their obligations in relation to this right, even under conditions of “public emergency which threatens the life of the nation”.14 Freedom of thought is generally understood to be an absolute and uncon- ditional right. General Comment 22 notes that Article 18 “does not permit any limitations whatsoever on the freedom of thought and conscience or on the freedom to have or adopt a religion or belief of one’s choice”.15 These two freedoms, together with the right to hold opinions without interference (ICCPR Article 19.1), form what is known in human rights law as the forum internum — or the ‘inner sanctum’ of the human mind.16

The forum internum is held in contrast to the forum externum, which concerns the expression of thoughts, convictions or beliefs. Forum externum rights are not absolute.17 Rather, they may be subject to limitations by the state “as are prescribed by law and are necessary to protect public safety, order, health, or morals or the fundamental rights and freedoms of others” (and in the case of Article 19.3, on the additional grounds of protecting national security).

This formulation distinguishes between the aspects of Articles 18 and 19 that have absolute protection and those which may be restricted under

13 General Comment 22, “Article 18 (Freedom of Thought, Conscience or Religion)”, UN Human Rights Committee, Forty-eighth session, 27 September 1993, para. 1. 14 A number of other rights cannot be derogated from, including Art. 6 – the right to life; Art. 7 – the right not to be subjected to torture or to cruel, inhuman or degrading treatment or punishment; Art. 8 (paras. 1 and 2); the right not to be held in slavery or servitude and the obligation to prohibit slavery and slave trade in all their forms. 15 Ahmed Shaheed, Report of the Special Rapporteur, para. 3. 16 Ibid., para. 2. 17 ICCPR, Art. 18.3: “Freedom to manifest one’s religion or beliefs may be subject only to such limita- tions as are prescribed by law and are necessary to protect public safety, order, health, or morals or the fundamental rights and freedoms of others.” ICCPR, Art. 19.3: “The exercise of the rights provided for in paragraph 2 of this article carries with it special duties and responsibilities. It may therefore be subject to certain restrictions, but these shall only be such as are provided by law and are necessary: (a) For respect of the rights or reputations of others; (b) For the protection of national security or of public order (ordre public), or of public health or morals.”

10 certain circumstances. However, to regard freedom of thought purely in terms of the forum internum risks giving it a passive character. Thought is not merely a driver of human activity, but an activity itself that should be allowed to proceed unhindered.

As with all human rights, freedom of thought often overlaps with other rights and freedoms with significant interrelationships and co-dependen- cies. Perhaps one of the most fundamental examples is its relationship with privacy, a right which can be limited in certain situations, in terms of protecting (mental) space to generate thought. This overlap also illustrates the need to further outline the scope of freedom of thought and to better clarify its protections, especially given the absolute nature of the right. For example, under what circumstances do mental privacy and integrity war- rant absolute protection under the right to freedom of thought? And when would qualified protection under the right to privacy suffice?18

Freedom of thought also needs to be understood in relation to freedom of conscience and freedom of religion or belief. Conscience, which, as the ‘inner tribunal’,19 allows us at its most basic level to freely decide what is right and wrong, only functions if it flows from autonomous thought, in the sense that each person’s autonomy to shape thoughts is not unduly inter- fered with. Similarly, there is a risk that adherence to any religion or belief system could be coercive in nature if there is no freedom of thought.

The process of generating thought does not occur in a vacuum, but in interaction with other people, spaces and information, where communities 18 Academic literature has advanced a number of criteria to help make the distinction between situations that warrant absolute and qualified protection, in relation to freedom of thought and privacy respectively. One criterion takes into account the mental effects of an interference (chiefly in terms of ‘severity’ and ‘signifi- cance’) alongside other relevant factors, such as the importance of personal interest in not revealing certain types of mental content (e.g., sexual orientation, political opinion, religious beliefs), or the method of inter- ference by which a person’s mental state is revealed or changed (e.g., indoctrination or brainwashing). The level of control over one’s own thoughts after the interference is also relevant here, as well as whether the method undermines such control or bypasses it. Another criterion looks at the characteristics of the victim, where vulnerability is important; children, the elderly, people with mental disabilities or people deprived of liberty or in other custodial settings are particularly vulnerable. Power differentials are important in this sense and could also include situations in the workplace. Another criterion is the context in which the interfer- ence took place, which warrants a case-by-case assessment. See Sjors Ligthart and Naomi van de Pol, Freedom of Thought: Absolute Protection of Mental Privacy and Mental integrity? Considering the Case of Neurotechnology in Criminal Justice, in Patrick O’Callaghan and Bethany Shiner (eds.), The Cambridge Handbook of the Right to Freedom of Thought, (Cambridge: Cambridge University Press, 2025). 19 Sofie Møller, Kant’s Tribunal of Reason, Legal Metaphor and Normativity in the Critique of Pure Reason, (Cambridge: Cambridge University Press, 2020), Chapter 6 - Moral Conscience as the Practical Inner Tribunal, pp. 96-112.

11 also play a role. From this perspective, there is an important overlap with the rights contained in Article 19 — freedom of opinion and expression.20 Thought and expression exist in a “perpetual feedback loop”.21 They also remain distinct and are protected differently in the international human rights framework. Thought refers to the activity of thinking, from stimulus to output, whereas opinion can be understood as one of the provisional outputs of thought.22

“(…) humans develop and flourish in their interactions with other hu- man beings and a nurturing material and cultural environment, (…) autonomy is not just individual, but also relational as it arises from and impacts one’s interactions and belonging with the community.” — Draft text of the Recommendation on the Ethics of Neurotechnology, UNESCO, 9 April 2025, paras. 16 and 44.

In a seminal 2021 report (and the first substantive commentary within the UN system on the right to freedom of thought), UN Special Rapporteur on Freedom of Religion or Belief (UNSR), Ahmed Shaheed, outlines four pos- sible attributes of the right: y Freedom not to reveal one’s thoughts y Freedom from punishment for one’s thoughts, real or inferred y Protection from impermissible alteration of thought y States’ positive obligation to create an enabling environment for free- dom of thought 20 Other relevant rights include: The right of everyone to the enjoyment of the highest attainable standard of physical and mental health (Art. 12 of the International Covenant on Economic, Social and Cultural Rights — ICESCR); the right of everyone to education — also in the sense that “education shall be directed to the full development of the human personality and the sense of its dignity” (Art. 13, ICESCR); the right to take part in cultural life, and enjoy the benefits of scientific progress and its applications, the right to benefit from the protection of the moral and material interests resulting from any scientific, literary or artistic production of which he is the author, or states undertaking to respect the freedom indispens- able for scientific research and creative activity (Art. 15, ICESCR), or the prohibition to compel anyone to belong to an association (Art. 20.2 of the UDHR). 21 Ahmed Shaheed, Report of the Special Rapporteur, para.18. 22 Ibid., para. 21; See also Christoph Bublitz, ‘The Mind and Conscience are the Person’s Most Sacred Possessions’: The Origins of Freedom of Thought in the Universal Declaration of Human Rights and the International Covenant on Civil and political Rights, in Patrick O’Callaghan and Bethany Shiner (eds.), The Cambridge Handbook of the Right to Freedom of Thought, (Cambridge: Cambridge University Press, 2025).

12 While the first two are more straightforward, the protection from impermis- sible alteration of thought generally refers to the prohibition of interference with mental autonomy. This assumes the absence of coercion, thought modification through brain alteration and manipulation.

Freedom of thought does not, however, guarantee ‘immunity’ from other people’s thoughts, or from everyday processes of persuasion. The UNSR further proposes, among other factors, possible criteria to identify undue forms of manipulation, which should be assessed on a case-by-case basis: y Consent (from a person able to give it, free and informed) y Concealment and obfuscation (if a ‘reasonable person’ would have been aware of the intended influence) y Asymmetrical power between the influencer and rights holder and how this was used y Harm in intent or effect

The fourth attribute, the obligation to create an enabling environment for freedom of thought, is linked to other rights, including the rights to access information, communication and education.23

“We need freedom of thought to combat climate change, racism and global poverty, and to fall in love, laugh and dream. The right to freedom of thought is an individual right, but it is crucial to the cul- tural, scientific, political and emotional life of our societies. Freedom of thought gives us the chance to think ugly thoughts and push them away before we act on them or let them take root; it allows us to choose how we behave to others, to moderate our speech accord- ing to the context and the audience and to be ourselves. Freedom of thought lets us imagine new futures without having to prove them first, it keeps us dynamic and adventurous; it keeps us safe; and above all, it keeps us human.” — Susie Alegre, Freedom to Think: Protecting a Fundamental Human Right in the Digital Age, (London: Atlantic Books, 2022), Introduction.

23 Ibid., paras. 25-47.

13 2. On artificial intelligence

There is no universally accepted definition of ‘AI’ in international law. The European Union (EU) AI Act,24 defines an “AI system” as “a machine-based system that is designed to operate with varying levels of autonomy and that may exhibit adaptiveness after deployment, and that, for explicit or implicit objectives, infers, from the input it receives, how to generate outputs such as predictions, content, recommendations or decisions that can influence physical or virtual environments”.25 A similar definition is included in the Council of Europe’s Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law.26

AI relies on algorithms27 written in computer code that process datasets by collecting and transforming raw data to produce outputs.28 Unlike an algorithm, where the process of decision-making is predefined, AI ‘makes decisions’ on the basis of data analysis.29 It identifies patterns in the data, ‘learns’ from them and makes predictions, which it can then adapt as it continues to collect data.30

The potential applications of AI are nearly endless, and the consequences for people’s lives vary significantly. AI operates on datasets that capture social realities and personal data, including in health care, employment, banking, shopping or law enforcement settings. To illustrate, in terms of health care, it can analyse sets of medical data to predict health outcomes that inform med- ical decisions. AI is also used to analyse large online datasets on shopping behaviour to infer individual preferences. It can then correlate this information

24 European Union Artificial Intelligence Act, Regulation (EU) 2024/1689, Official Journal version of 13 June 2024. 25 Ibid. Art 3 (1). 26 Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law, Council of Europe, adopted on 5 September 2024. 27 Algorithms are a set of instructions aimed at solving a specific problem. The processes through which they operate are complex and varied. See, for example, Andrew Williams, What Is an Algorithm? Defining And Applying Algorithms, Forbes, 12 January 2024. 28 UN Special Rapporteur (UNSR) on the promotion and protection of the right to freedom of opinion and expression (FoOE), David Kaye, A/73/348, 29 August 2018. 29 Kaya Ismail, AI vs. Algorithms: What’s the Difference?, CMSWire, 26 October 2016. 30 Office of Communications, College of Education, Traditional AI vs. Generative AI: What’s the Difference?, University of Illinois Urbana-Campaign, 11 November 2024.

14 with personal and contextual characteristics (e.g., age, geographic location, gender, past purchases and shopping behaviour) to create detailed customer profiles. Companies use these profiles for market segmentation, enabling them to target individuals with tailored products or services designed to increase sales or engagement with specific content. Engagement leads to new user data being harvested.

Although users are more or less aware of the use of their data or the influ- ence on their choices, these processes still raise questions over freedom of thought and the potential for manipulation. Equally, users do not have sufficient information to participate in debates over how new technologies can be used in the public interest.

Generative AI

Generative AI (GenAI) is a new generation of AI development. It refers to ar- tificial intelligence that ‘creates’ content, which is mostly used in the context of responding to prompts provided through natural-language interfaces.31 ‘Traditional’ AI produces outputs on the basis of existing content. GenAI generates ‘new’ content, on the basis of existing content.32 This can include text, images, videos, music and even software code. GenAI is trained on immense amounts of data. To generate its outputs, it conducts sophis- ticated analysis of patterns and relationships in the data, such as word sequences or pixel arrangements.33 It is based on, and has been made possible by what is known as large language models and deep learning;34 these had been developed and improved over a number of years before ChatGPT became available for everyone to experiment and work with.

Once OpenAI made ChatGPT — its GenAI model trained on internet data — publicly available, it became the fastest growing app, sparking a race among major tech companies to develop GenAI tools and integrate them into

31 Fengchun Miao, Wayne Holmes, Guidance for generative AI in education and research, (Paris: UNESCO, 2023). 32 Office of Communications, College of Education, Traditional AI vs. Generative AI: What’s the Difference?. 33 Miao and Holmes, Guidance for generative AI in education and research, p. 8. 34 Cambridge English Dictionary Online, Entry for Large Language Model.

15 various products and platforms.35 Notably, due to its fast-paced roll-out, there has been a sharp rise in AI-generated content, which, by adding to human- generated content, is changing the overall nature of the data on the Internet and, therefore, the available knowledge.36

One area of concern, including to the industry, is that, although this may change with new technological advancements, research has shown that GenAI models collapse when repeatedly trained on artificially-generated data, as opposed to human-generated data.37

“Model collapse is a degenerative process affecting generations of learned generative models, in which the data they generate end up polluting the training set of the next generation. Being trained on polluted data, they then mis-perceive reality.” — Ilia Shumailov, Zakhar Shumaylov, et al., AI models collapse when trained on recursively generated data, Nature, 631, 24 July 2024, pp. 755-759.

In early 2025, the launch of DeepSeek, a Chinese-developed GenAI model, offered high technical performance at much lower cost, including in environ- mental terms. DeepSeek was launched as open source, enabling anyone to download, copy and build upon it without having to go through the sig- nificant costs of building a model from scratch,38 thus making new scientific discovery publicly available.39 However, its emergence has also raised rights concerns related to privacy and censorship,40 and some EU countries have banned its use on grounds of data protection.41 At the time of writing, the 35 Other examples of GenAI models include: Claude (Anthropic), Llama (Meta), Gemini (Google), Le Chat (Mistral) and others. Major developments come from big companies, but the applications are not restricted to Big Tech. 36 See Jason Koebler, Project Analyzing Human Language Usage Shuts Down Because ‘Generative AI Has Polluted the Data’, 404media, 19 September 2024. 37 See Ilia Shumailov, Zakhar Shumaylov, et al., AI models collapse when trained on recursively generated data, Nature, 631, pp. 755-759, 24 July 2024. 38 Charlotte Edmond, What is open-source AI and how could DeepSeek change the industry, World Eco- nomic Forum, 5 February 2025. 39 Alex He, DeepSeek and China’s AI Innovation in US-China Tech Competition, Centre for International Governance Innovation, 11 April 2025. 40 Robert Booth and Dan Milmo, Experts urge caution over use of Chinese AI DeepSeek, The Guardian, 28 January 2025. 41 Hakan Ersen and Miranda Murray, DeepSeek faces ban from Apple, Google app stores in Germany, Reuters, 27 June 2025.

16 impact of DeepSeek on competition in the field and the spread of GenAI models is yet to be fully seen.42

Whether truly close or not,43 large tech companies are also talking about concrete steps towards the next stage of artificial intelligence: Artificial General Intelligence (AGI). AGI is expected to operate autonomously and exhibit human-like agency.44 This has implications for freedom of thought, as such systems could influence, enforce or undermine this right. It is, therefore, essential that governments, developers and regulators ensure that potential AGI is designed and governed in accordance with human rights standards.

Corporate influence in the age of AI

The economic and regulatory environment in which new technologies have been operating during past decades has already had a profound impact on democracy and human rights. The use of AI by large technology companies, often called ‘Big Tech’, that operate major internet platforms (including search engines and social media) has significantly transformed the space for public discourse. This transformation has changed democratic debate and the way people form their opinions, make choices and reach decisions, with direct implications for freedom of thought.45 As corporations and governments gain ever-greater access to large amounts of data about individuals’ behaviours and preferences, the potential to influence or even manipulate people’s in- nermost thoughts has also increased. Regardless of whether they are funded publicly or privately, AI-based technologies, with a few exceptions, currently

42 Hamilton Mann, Seek Deeper On DeepSeek For Artificial Integrity Over Intelligence, Forbes, 28 Janu- ary 2025; Robert Booth and Dan Milmo, Chinese AI chatbot DeepSeek censors itself in realtime, users report, The Guardian, 28 January 2025; Cade Metz, How Did DeepSeek Build Its A.I. With Less Money?, The New York Times, 12 February 2025. 43 Kate Brennan, Amba Kak and Dr. Sarah Myers West, Artificial Power: 2025 Landscape Report, AI Now Institute, 3 June 2025. 44 Tom Allen, Real-world agentic AI is ‘complex’ cautions Google’s Demis Hassabis, Computing, 17 March 2025; Will Knight, Google’s AI Boss Says Gemini’s New Abilities Point the Way to AGI, Wired, 28 May 2025; Robert Booth, Meta to announce $15bn investment in bid to achieve computerised ‘superintel- ligence’, The Guardian, 11 June 2025. 45 See a detailing of the argument in Shoshana Zuboff, The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power, (New York, Public Affairs, 2019). See also the work of the OSCE RFoM on AI and Freedom of Expression.

17 lack effective, human rights-based public regulatory frameworks to ensure prior impact assessment or subsequent accountability.

Neurotechnologies are also developing rapidly and becoming increasingly sophisticated through their convergence with AI. These technologies open up the possibility to infer and influence people’s thoughts, since such tech- nologies operate in relation to the brain and the neural circuit. The com- mercialization of devices that harvest neural data increases the possibilities for profiling and surveillance. This is directly relevant to freedom of thought. While such devices offer potentially ground-breaking solutions, especially in the field of medicine, they may allow and be presumed to offer unprec- edented insights into what was long considered an inviolable inner sphere — the sanctity of the mind. When used for profit, these technologies have the potential to feed into and enhance the power and sophistication of the influence over individual choices that large online platforms exert, which poses new ethical and human rights challenges.46

AI technologies are primarily developed and deployed by private sector actors, who operate within commercial frameworks where generating profit is essential for sustainability. As a result, these technologies are largely shaped outside democratic oversight and the traditional ‘social contract’ between governments and citizens, despite their significant impact on is- sues of public interest. This disconnect means that the governance struc- tures currently in place are not currently able to address adequately the broad influence that these technologies have on society. It also means that the commercial priorities of these private actors may or may not align with the wider objectives of public welfare, creating challenges in ensuring that AI development always serves the common good.

Given AI’s profound impact on democratic institutions, human rights and the ways people interact, it is important to address the question of who should develop and deploy such technologies, under what conditions and regulation, and to what ends. Beyond the dominant Big Tech companies, there are myriad start-ups and other competitors in the AI field.47 Industry standards, and especially ethical standards, are still evolving, and actual

46 See, for example, Nita A. Farahany, The Battle for Your Brain. Defending the Right to Think Freely in the Age of Neurotechnology, (New York: St Martin’s Griffin, 2023). 47 Rashi Shrivastara (ed.), Forbes 2025 AI 50 List - Top Artificial Intelligence Companies Ranked, Forbes, 10 April 2025; Kate Brennan et al, Artificial Power: 2025 Landscape Report.

18 practices often depend on the economic power or business culture of in- dividual companies or the environment in which they operate.

States must take responsibility for ensuring that the ‘AI revolution’ safeguards everyone’s human rights and fundamental freedoms. In so doing, it is impor- tant for states to promote a level playing field that encourages fair competition among all actors and prevents a race to the bottom. States have an ongoing duty to create and protect an enabling environment for freedom of thought and all other human rights, while carefully monitoring Big Tech’s influence to ensure accountability and alignment with public interest.48

48 Other pertinent areas with specific implications for freedom of thought, not approached here, include the use of AI for distinct surveillance purposes, especially for national security or defence purposes, at borders and in migration control, during detention, by the military or as part of authoritarian regimes. See also Digital technologies at borders: A threat to people on the move, UN OHCHR, 9 October 2023.

19 3. The human rights implications of thinking within the algorithm

AI, bias and thought AI outputs depend on the purpose and design of the AI system, the quality of the data and how the AI is deployed. A specific AI system will reflect both the biases and blind spots of those involved in its creation, as well as those embedded in the datasets used to build and train it. Furthermore, it may be deployed for different purposes than it was created and tested for, while a number of inherent issues may appear in the machine learning algorithms as such.49 In fields traditionally involving social interaction (e.g., banking, social benefits, housing, employment), if the datasets already contain bi- ases, for example, this will create particularly problematic consequences, as AI systems have power at scale to proliferate and potentially exacerbate such biases.50 AI systems also commonly reflect the values and realities of the global north, making AI more likely to misrepresent other regions. All of these issues carry risks to human rights, including the right to freedom of thought. However, efforts must continue to address this issue and reduce biases by, among others, promoting diversity throughout the AI lifecycle, working to fix technical challenges and, in some cases, not using certain types of AI if the risk is too high, if thought is to be enhanced, diversity protected and access to varied perspectives ensured.

“A feedback loop occurs when predictions made by a system influ- ence the data that are used to update the same system. It means that algorithms influence algorithms, because their recommendations

49 Bias in Algorithms: Artificial Intelligence and Discrimination, EU Agency for Fundamental Rights (FRA), (Vienna, FRA, 2022). 50 For instance, predictive policing algorithms can be influenced by a number of factors, including if the dataset is based on prior recorded crime rates. These rates can in turn be influenced by prejudice against certain minorities who may live in certain areas, which then show up more often in the datasets as areas where crime rates are high than they would in the real (recorded and non-recorded) crime rates. The algorithmic predictions can thus become biased against the specific minorities, whose neighbour- hoods may end up being overpoliced. For a comprehensive explanation on bias in AI predictive policing systems, see FRA, Bias in Algorithms, p. 31. The EU AI Act prohibits individual predictive policing AI sys- tems solely based on profiling or personality traits, except when used to augment human assessments based on objective, verifiable facts directly linked to criminal activity (see also Chapter 6 below).

20  and predictions influence the reality on the ground. This reality then becomes the basis for data collection to update algorithms. There- fore, the output of the system becomes the future input into the very same system. Any bias in algorithms can therefore potentially be reinforced over time and exacerbated.” — EU Agency for Fundamental Rights, Bias in Algorithms: Artificial Intel- ligence and Discrimination, (Vienna, FRA, 2022), p. 8.

When human interactions and decisions are replaced by AI systems, or there is an over-reliance on such systems, the environment for informed decision-making is distorted by pre-existing or system-generated inequities and inaccuracies, which are then amplified by the system. Where biased social media content or AI profiling informs political and other social activity, people with specific protected characteristics or behaviours are often most immediately affected.51 Ultimately, however, this affects society as a whole.

Given their complexity and size, curating datasets to avoid bias, rather than trying to reduce it, is a challenging task. Even when the most well- intentioned efforts are made to remove bias from AI tools, errors in the process can, by themselves, lead to (further) human rights violations. For example, social media platforms using AI for moderation — to filter, flag, remove or limit the spread of illegal and offensive content — are already operating on a vast scale. As it tries to navigate the complexities of human communication on these platforms, AI often fails to understand either con- text or nuance (e.g., satire), which limits how well they moderate human communication in general, let alone the complexities of bias.52 Additionally, meaning varies according to circumstances, shared understanding and language, and evolves over time. When trying to use AI to moderate for bias, social media platforms may inadvertently censor marginalized com- munities for engaging with and using certain language, including protected counter-speech that opposes or challenges harmful and hateful speech.53 At the same time, content that uses ‘coded’ language can avoid detection. These challenges are more pronounced for content in languages other than

51 Mehnaz Rafi, When AI plays favourites: How algorithmic bias shapes the hiring process, The Conversa- tion, 14 October 2024; see also ICO considers uses of neurotechnology in employment in the UK, With- ers, 31 July 2023. 52 Spotlight on AI and Freedom of Expression – A Policy Manual, OSCE/RFoM, 20 January 2022. 53 FRA, Bias in Algorithms: Artificial Intelligence and Discrimination.

21 English, where companies have invested fewer resources in both modera- tion and fact-checking.54 Efforts to curate data for bias, which mainly rely on AI, should always include the sufficient engagement of diverse and well- informed humans from the outset of the AI life cycle.

It is worrying that, currently, social media companies are reversing their policies on content moderation and protections related to trust and safety, including hate mitigation, harassment and false content. They have signifi- cantly reduced the number of staff required for proper moderation55 and are therefore getting worse, not better, at countering harmful content.56 Given the damage such material does to marginalized communities, (including the real-life danger that online hate can provoke), efforts to mitigate bias should, if anything, be increased.57

One particularly important characteristic of the digital environment is that English dominates, not reflecting the diversity of languages spoken across the world. This has exacerbated the digital divide in terms of access to the internet for those who do not speak English or other common internet languages.58 GenAI adds to this issue, as it is trained in a limited number of languages and therefore fills the information environment primarily in those languages. This trend threatens language diversity and is unlikely to change without significant investment by companies.59

Native languages are not just essential to cultures and identities, but repre- sent a constitutive part of how people organize their thoughts in the forum internum and how people’s worldviews are shaped. On the positive side,

54 Content Moderation in a New Era for AI and Automation, Meta Oversight Board, September 2024; see also OSCE/RFoM, Spotlight on AI and Freedom of Expression – A Policy Manual. 55 David Evan Harris and Aaron Shull, Generative AI, Democracy and Human Rights, Center for Interna- tional Governance Innovation, Policy Brief No. 12, February 2025. 56 Joel Kaplan, More Speech and Fewer Mistakes, Meta, 7 January 2025; Clare Duffy, Calling women ‘household objects’ now permitted on Facebook after Meta updates its guidelines, cnn.com, 8 January 2025; Dia Kayyali, Meta’s Content Moderation Changes are Going to Have a Real World Impact. It’s Not Going to be Good, TechPolicy.press, 9 January 2025, Adrian Kopps, Four key policy changes of X under Musk, Digital Society Blog, Alexander von Humboldt Institut für Internet und Gesellschaft, 28 October 2024. 57 Hate Speech, United Nations-dedicated webpage; X’s design and policy choices created fertile ground for inflammatory, racist narratives targeting Muslims and migrants following Southport attack, Amnesty International, 6 August 2025. 58 Internet Access: UNESCO and ICANN join forces to improve linguistic diversity online, UNESCO, 27 February 2025. 59 Viorica Marian, AI could extinguish languages and ways of thinking, The Washington Post, 19 April 2023.

22 AI has been used successfully, among other public benefit purposes,60 to document, preserve and save endangered languages, and even revive lost ones.61 Central to this is the human rights ethos and understanding — or lack thereof — shaping the development, deployment and use of AI.

Without appropriate care to ensure diversity and representation, including by closing the digital divide, an AI future where a myriad of power imbal- ances is (re-)created through the use of new technologies operating at scale risks making worldviews not represented by AI disappear.

Human oversight, transparency and accountability

From the perspective of ensuring human rights compliance, the level of human intervention in decision-making assumes critical importance. Fully automated decision-making means that there is no human intervention (including human intuition or judgement) involved in how AI delivers an output. Furthermore, the complexity of GenAI makes it difficult, if not impossible, to understand or explain how a given output was reached. There is an additional complica- tion with human-machine interaction, namely ‘automation bias’: studies have shown that humans generally trust machines more than they trust people and, therefore, more easily accept AI-generated output.62 Freedom of thought and, indeed, meaningful human agency are undermined when it becomes more difficult to verify and question output, especially in a consequential situation, even if humans are involved in deciding how to apply or act upon those out- puts.63 The level of risk varies depending on the field where AI is employed. For example, doctors should fully understand the AI they use and be trained to overcome the automation bias, systematically evaluating the AI output for each patient since the risk, in terms of negative health outcomes, is very high.64

60 See the UN’s AI for Good platform and Stéphanie Bascou, « IA d’intérêt public » : cette ONG veut créer un label éthique, similaire au « Commerce équitable », et facilement identifiable pour les consommateurs, (AI in the public interest: this NGO wants to create an ethical label, similar to “Fair Trade”, and easily identifiable for consumers), 01.net, 5 October 2024, (in French). 61 AI: The Unexpected Hero in the Battle to Save Dying Languages, apolitical website, 20 October 2024. 62 Chris Baraniuk, Why we place too much trust in machines, BBC, 20 October 2021. 63 For a comprehensive explanation on predictability and understandability, see Arthur Holland Michel, The Black Box, Unlocked, UNIDIR, 22 September 2020. 64 The application of artificial intelligence in healthcare and its impact on the “patient-doctor” relationship, Council of Europe, Steering Committee for Human Rights in the Fields of Biomedicine and Health (CD- BIO), September 2024, p. 20.

23 Frequently, the ability to verify and challenge output is further challenged by claims of intellectual property rights on the code, parameters and/or other inner workings of AI. These arguments are used to avoid disclosing how a certain result was achieved. When transparency and the ability to decide over the information environment (e.g., what social media algorithms dis- play in feeds) are removed, it further complicates informed decision-making or even building a proper understanding of one’s environment.

“Understandability refers to the degree to which any given system can be understood by any given person. Whereas a system’s pre- dictability relates to the question What will the system do? under- standability relates to the question Why does it do it?” — Arthur Holland Michel, The Black Box, Unlocked, UNIDIR, 22 September 2020, p. 9.

The inability to understand how AI reaches decisions that affect human rights — either because the system is too complex or because its workings and the means to control it are not publicly available information — raises serious concerns about accountability and transparency; two crucial prin- ciples for the proper functioning of justice systems and democracies.

“1. Digital technologies are dramatically transforming our world. They offer immense potential benefits for the well-being and advancement of people and societies and for our planet. (…) 3. We recognize that the pace and power of emerging technologies are creating new possibilities but also new risks for humanity, some of which are not yet fully known. We recognize the need to identify and mitigate risks and to ensure human oversight of technology in ways that advance sustainable development and the full enjoyment of human rights.” — UN Global Digital Compact, annexed to the United Nations General Assembly resolution A/RES/79/1 on the Pact for the Future, adopted 22 September 2024.

24 The way to mitigate these risks is to build AI differently,65 in a responsible and human rights-centred manner, ensuring regulatory oversight and ad- equate understandability, transparency and accountability. Furthermore, meaningful human oversight is crucial to ensuring that AI systems help deliver the best results for people and do not undermine their rights, includ- ing freedom of thought.

65 Recommendation on the Ethics of Artificial Intelligence, UNESCO, 23 November 2024; see also Rumman Chowdrhury and Dhanya Lakshmi, “Your opinion doesn’t matter, anyway”: exposing technology-facilitat- ed gender-based violence in an era of generative AI, (Paris: UNESCO 2023); or the Resources page of the organization Humane Intelligence.

25 4. Freedom of thought in reconfigured civic space

The new civic space architecture impacting freedom of thought Genuine freedom of opinion and expression depends on genuine freedom of thought.66 As explained above, both thought and opinion are part of the forum internum — the private inner domain of each individual — an area that enjoys absolute protection from interference under international human rights law. Conceptually, in democratic theory, free thought takes shape and evolves in conversation, as individuals freely exchange opinions and share information.67 In this ideal civic space, it must be possible to express, challenge and test all ideas and opinions, to ensure that the best ideas and truths can ultimately prevail. The ability to have this dynamic exchange, where ideas can meet and confront each other, is why freedom of expres- sion (i.e., the manifestation of thought and opinion) enjoys strong protec- tion and support; it is critical for the healthy public debate that is essential to democracy. Public interest journalism plays a critical role in enabling informed democratic debate, as well as the possibility, among others, to freely associate and organize. However, there are also limits. For example, states should restrict ‘hate speech’ that reaches a certain threshold of severity, in line with international human rights law.68

With the rise of Big Tech, much communication has shifted onto social me- dia platforms, which now mediate human interactions and act as gatekeep- ers to news/information. These platforms use powerful machine-learning algorithms to reorganize content in ways that have implications for freedom 66 Sjors Ligthard, Christoph Bublitz, Thomas Douglas, Lisa Forsberg and Gerben Meynem, Rethinking the Right to Freedom of Thought: A Multidisciplinary Analysis, in Human Rights Law Review, 2022, 22, pp. 1-14. 67 See also Simon McCarthy-Jones, Freethinking: Protecting Freedom of Thought Amidst the New Battle for the Mind, (London: Oneworld, 2023). 68 ICCPR, Article 20: “1. Any propaganda for war shall be prohibited by law. 2. Any advocacy of national, racial or religious hatred that constitutes incitement to discrimination, hos- tility or violence shall be prohibited by law.”

26 of thought, as they fundamentally change at scale how information, opin- ions and ideas circulate, as compared to an information environment largely organized by traditional (public interest) media.69

Online, algorithm-based recommender systems are primarily shaped by commercial considerations. These systems are optimized to maximize user engagement or drive purchases rather than to prioritize accuracy, diver- sity or public interest goals, including media pluralism and public inter- est journalism.70 Maximizing engagement and driving purchases involves using past behaviour and individual profiling to predict what content users are most likely to engage with. As a result, users have limited control over what they see, even if they still retain autonomy over whether to engage or not. They may also be unaware that the material they see differs from that seen by others, including those in their close circle, due to algorithmic personalization.

This model places significant influence over each person’s information eco- system in the hands of a few platforms. It has contributed to the fragmen- tation of the news media landscape, weakening independent journalism and potentially eroding a shared sense of reality, which has long shaped individuals’ interactions, choices and democratic engagement.71

69 “Unlike traditional algorithms, which are hard-coded by engineers, machine-learning algorithms ‘train’ on input data to learn the correlations within it. The trained algorithm, known as a machine-learning model, can then automate future decisions. An algorithm trained on ad click data, for example, might learn that women click on ads for yoga leggings more often than men. The resultant model will then serve more of those ads to women.” See Karen Hao, The Facebook whistleblower says its algorithms are dangerous. Here’s why, MIT Technology Review, 5 October 2021. 70 OSCE/RFoM, Spotlight on AI and Freedom of Expression – A Policy Manual. 71 OSCE/RFoM, Spotlight on AI and Freedom of Expression – A Policy Manual; and, more broadly, the work of the OSCE RFoM on Media and Big Tech; see also Declaration by the Committee of Ministers on the manipulative capabilities of algorithmic processes, Council of Europe Committee of Ministers, adopted on 13 February 2019: “8. Contemporary machine learning tools have the growing capacity not only to predict choices but also to influence emotions and thoughts and alter an anticipated course of action, sometimes subliminally. (…) 9. Fine grained, sub-conscious and personalised levels of algorith- mic persuasion may have significant effects on the cognitive autonomy of individuals and their right to form opinions and take independent decisions. (…) [Council of Europe’s] central pillars of human rights, democracy and the rule of law are grounded on the fundamental belief in the equality and dignity of all humans as independent moral agents. (…) the Committee of Ministers: - draws attention to the growing threat to the right of human beings to form opinions and take decisions independently of automated sys- tems, which emanates from advanced digital technologies. Attention should be paid particularly to their capacity to use personal and non-personal data to sort and micro-target people, to identify individual vulnerabilities and exploit accurate predictive knowledge, and to reconfigure social environments in order to meet specific goals and vested interests;”

27  “The methods by which online platforms curate content through recommender systems are not transparent, and they are very rarely subject to public and/or state scrutiny. (…). Content recommender systems may also have unintended consequences from the per- spective of broader societal objectives and can negatively shape and interfere with the absolute right to freedom[s] of thought and opinion. In addition, the processes of internet intermediaries’ recom- mender systems typically exclude individual users’ choice, control and agency – prerequisites to ensuring individual autonomy in seek- ing and imparting a variety of information and ideas. (…) There exists ample evidence that online platforms’ opinion power has the ability to steer and amplify certain public narratives and types of discourse over others. For countries with fragile or oppressive political systems, this opinion power, coupled with algorithmic amplification, can have disastrous consequences for individual enjoyment of human rights.” — Spotlight on AI and Freedom of Expression – A Policy Manual, OSCE/ RFoM, 20 January 2022, pp. 64- 78.

The OSCE Representative on Freedom of the Media has done ex- tensive work exploring and explaining the impact of AI on the digital marketplace of ideas, public interest media, freedom of opinion and expression and democratic processes, offering comprehensive rec- ommendations to participating States. See more in OSCE RFoM Spotlight on Artificial intelligence and Freedom of Expression — SAIFE Resource Hub.

As AI capabilities develop, advertising that relies on an AI-driven data- harvesting business model, which analyses individual and collective behav- iour and characteristics, is becoming more effective. This system tracks users across sites and devices, delivering targeted content, including news, to maximize engagement and drive purchases.

The advent of social media has undeniably enabled new contact and com- munication to take place, facilitated popular mobilization on issues of com- mon concern and given a voice to those under censorship. Compared to traditional public spaces, however, social media platforms modify how engagement with one another and groups happens. This communication framework is set up to leverage human psychological biases — especially

28 around ‘in-group’ vs. ‘out-group’ dynamics and the human need to belong — to deliver tailored content according to criteria that are largely not publicly available (i.e., how the algorithms that drive content are set up and for what purposes). Platforms have transformed much of the public space and how we are able to engage with it, while at the same time maintaining a strong illusion of choice.72 Through subtle, yet systematic effects, people become susceptible to influence and manipulation of thought and behaviour, under- mining the idea of thinking for oneself and diminishing our agency.73

Arguably, the dominant position of the large technology companies leaves individuals with little choice but to accept the surveillance model and to be on the platform. It has become a requirement for many everyday social and professional interactions, particularly where group activities or other important information is only communicated via one platform. This has consequences for freedom of thought. By submitting to companies’ algo- rithms to filter a significant part of their experience of the world, people risk relinquishing control over their selfhood. The very knowledge of being sur- veilled can also influence what humans think and how they act, potentially in fear of consequences.74 Importantly, the EU has started to take steps

72 One, often evoked, effect of the new information environment, especially as related to political polariza- tion, is that of creating ‘echo chambers’ — the result of people’s tendency, followed by the actual pos- sibility of choice on social media, to select to engage with people like them whose ideas they agree with. While the literature is divided on the existence of echo chambers, it is also very limited geographically and linguistically, and is generally produced without appropriate access to the data necessary for proper analysis. A large, collaborative, meta-research study looking at political engagement concluded there is evidence of people immersing themselves in homogenous, partisan networks when on social media. But the picture is much more complex. The authors also highlight that, while social media may offer exposure to more news information and ideas than one would otherwise encounter in their offline world, when online, different opinions and information are perceived from a polarized position; people react to opposing views, not by entering into a democratic debate, but by seeking approval from an online com- munity — an ‘in-group’ against the ‘out-group’ — which finally leads to even more entrenched positions and polarization. See Jonathan Haidt and Chris Bail (ongoing), Social Media and Political Dysfunction, A collaborative review, unpublished manuscript, New York University, Chapter. 2.4). 73 The term ‘surveillance capitalism’ was popularized by Shoshana Zuboff, who describes it as a new eco- nomic logic centred on the extraction of personal data for the purpose of shaping user behaviours. “ (…) surveillance capitalists discovered that the most-predictive behavioral data come from intervening in the state of play in order to nudge, coax, tune, and herd behaviour toward profitable outcomes. Competi- tive pressures produced this shift, in which automated machine processes not only know our behavior, but also shape our behaviour at scale. With this reorientation from knowledge to power, it is no longer enough to automate information flows about us, the goal is to automate us.” Shoshana Zuboff, The Age of Surveillance Capitalism: the fight for a human future at the new frontier of power, (New York: Profile Books, 2019), p. 8. 74 In the wake of the Snowden revelations, which spoke to government surveillance, people modified their on- line behaviour to exclude searches on topics they thought might flag them to government. See Jon Penney, Chilling Effects: Online Surveillance and Wikipedia Use, Berkley Technology Law Journal, Vol. 31, No. 1, pp. 117-183, 27 April 2016. See also Ahmed Shaheed, Report of the Special Rapporteur, para. 54.

29 to deal with the issue of targeted advertising under various aspects of its specific legislative framework. At the time of writing, some cases have been adjudicated on and others are in progress.75 Some of these cases will have implications for protecting autonomy and agency and, therefore, freedom of thought in the new civic space.

“…the fact that the operator of an online social network holds a dominant position on the market for online social networks does not, as such, preclude the users of such a network from being able validly to consent, (…) to the processing of their personal data by that operator. This is nevertheless an important factor in determining whether the consent was in fact validly and, in particular, freely given, which it is for that operator to prove.” — Press release no. 113/23, Court of Justice of the European Union, Judg- ment of the Court in Case C-252/2001 | Meta Platforms and Others (Gen- eral terms of use of a social network), Luxembourg, 4 July 2023, para. 154.

Furthermore, academic literature on freedom of thought suggests that this new environment compromises mental autonomy through: (1) the surveil- lance and use of personal data that gives very detailed insights about indi- viduals or groups; (2) the opacity of technologies, both in how they use AI to generate and propagate content and the inner workings of the technol- ogy itself; (3) the exploitation of cognitive biases; and (4) its unprecedented reach, shaping societal preferences and choices in a manner that bypasses democratic processes.76

75 Commission finds Apple and Meta in breach of the Digital Markets Act, European Commission Press release, 23 April 2025; see also Press release no. 116/24, Judgment of the Court in Case C-446/21 | Schrems (Com- munication of data to the general public), Court of Justice of the European Union, Luxembourg, 4 October 2024; and Press release no. 113/23, Judgement of the Court in Case C-252/2001 | Meta Platforms and Oth- ers (General terms of use of a social network), Court of Justice of the European Union, Luxembourg, 4 July 2023. A relevant case was also settled in the UK early in 2025. See Dan Milmo, Meta to stop targeting UK citizen with personalised ads after settling privacy case, The Guardian, 22 March 2025. 76 Nina Keese and Mark R. Leiser, Online Manipulation as a Potential Interference with the Right to Free- dom of Thought in Patrick O’Callaghan and Bethany Shiner (eds.), The Cambridge Handbook of the Right to Freedom of Thought, (Cambridge: Cambridge University Press, 2025). See also Kate Brennan et al, Artificial Power: 2025 Landscape Report.

30 ‘Information disorder’ alters genuine choice

The reorganization of our information ecosystem has also affected the way in which democratic debate and choice operate, with public interest media being severely affected. The proliferation of AI-enhanced digital technolo- gies initiating cycles of disinformation and misinformation for specific politi- cal, ideological or commercial gain that spread much faster than before on digital platforms,77 has produced a state of ‘information disorder’.78 This phenomenon has damaged trust in independent media and in the integrity of information, and is driving the blurring of truth. As uncertainty increases, public confidence in institutions and the broader information ecosystem is declining, affecting the quality of informed decision-making necessary for democratic participation and in everyday life. 79

As shown by the OSCE RFoM,80 GenAI poses additional challenges for jour- nalism. It replaces original content created by journalists, while also creating issues around plagiarism and lack of compensation, all of which could further drive public interest journalism and content out of the public sphere.81

In parallel to the shifting role of the media and its ability to act in the public interest by maintaining a healthy information environment,82 GenAI and the ability to create deepfakes that are increasingly difficult to detect creates fur- ther risks for the information landscape and election processes in particular.

77 Report of the UNSR on FoOE Irene Khan, Disinformation and Freedom of Opinion and Expression, 13 April 2021, A/HRC/47/25, para. 2. 78 See Claire Wardle PhD and Hossein Derakhshan, Information Disorder: Towards an interdisciplinary framework for research and policy making, (Strasbourg: Council of Europe, 2018). Wardle and Derakh- shan use a conceptual framework to describe information disorder in the new communication environ- ment, which looks at the types of information disorder (dis-information, mis-information and mal-informa- tion); at the three phases of information disorder (creation, production and distribution) and then at the elements of information disorder (agent, message and interpreter). They focus on harm and falseness to define the types of information that make the information disorder ecosystem. Mis-information thus hap- pens when false information is shared, but no harm is intended. Dis-information is when false information is knowingly shared, intending to cause harm. Mal-information is when genuine information is shared intending to cause harm (e.g., making private information public). 79 UNSR on FoOE Irene Khan, Disinformation and Freedom of Opinion and Expression. 80 See Workshop on Big Tech and Media Freedom - Outcome Report, OSCE/RFoM, 15 October 2024. 81 Beyond journalism, GenAI poses significant issues for the respect of Article 15 ICESCR regarding the right of everyone to benefit from the protection of the moral and material interests resulting from any scientific, literary or artistic production of which they are the author. 82 See the work of the OSCE RfOM on the topic: Media and Big Tech Initiative | OSCE. Furthermore, in 2025, the OSCE RFoM is preparing guidance for states on safeguarding media freedom in the age of Big Tech and AI, supporting the development of healthy online information spaces.

31 These technologies can be easily exploited for manipulation, spreading misinformation and disinformation with devastating effect. Deepfakes are commonly used in gender-based harassment, particularly through the crea- tion and dissemination of sexualized images. These primarily target women and girls, with LGBTI people also among common targets. Women in poli- tics are at particular risk, as well as those living in conservative, patriarchal societies, where a deep fake showing person in an ‘inappropriate’ situation can have serious consequences.83

It has been shown, for example, that malicious actors can use open source GenAI models to perpetrate or amplify gender-based violence (GBV) in the digital space.84 While GenAI has not created GBV, its power to generate, replicate and disseminate GBV and other types of harmful content at scale and at little cost85 makes it more destructive if left unregulated and in the hands of such actors, while those affected are pushed out of the online sphere and/or feel too intimidated to react.

GenAI models also present a specific technical challenge, called ‘hallucina- tions’. This is content, produced by GenAI, that moves away from factual reality or is simply fabricated. However, it is usually very plausible and there- fore difficult, sometimes impossible, to detect. Hallucinations stem primarily from the way GenAI operates. It is not just problems with the database GenAI works from (including inaccuracies or false information in the case of, for instance, the Internet), but how GenAI is designed. It is meant to ‘play along’ and produce an answer.86 OpenAI has recognized that hallucina- tions, together with other elements, such as intentional misinformation or societal biases, could cast the whole information environment into doubt, threatening our ability to distinguish fact from fiction.87 This ‘losing a sense of reality’ may have a real impact on human agency and autonomy, as well as on freedom of thought. While companies and researchers are working

83 Meta Oversight Board, Content Moderation in a New Era for AI and Automation webpage; see also the OSCE/ODIHR CHANGE: Capitalizing on the Human Dimension Mandate to Advance Gender Equality project. 84 Chowdrhury and Lakshmi, “Your opinion doesn’t matter, anyway”. 85 Laura Bates, Online brothels, sex robots, simulated rape: AI is ushering in a new age of violence against women, The Guardian, 3 June 2025. 86 Kate Brennan et al, Artificial Power: 2025 Landscape Report, p. 49. 87 Colleen M Shannon, P. Eng., LL.M., Do AI Hallucinations Disguise Gender Bias?, Medium, 27 September 2023.

32 to reduce hallucinations, 88 including through technical solutions that make sources visible, which is important from many perspectives, it is unlikely that the problem can be solved within the current models and without trade-offs in the performance of the GenAI technology. 89

The EU AI Act is the first attempt to regulate the use of GenAI, including very sophisticated deepfakes, to protect individuals from AI-facilitated abuse. While some groups are more obviously affected, ‘information disorder’ has a global impact and places not only freedom of thought, but the human rights and security of all at risk.90

The impact of AI on human connection, thought development and the right to be forgotten The way humans process and understand the world, including through critical thinking, is shaped by their education, upbringing and the conditions for brain development during their formative years. AI, and GenAI in par- ticular, has already had a profound impact on education, and will continue to do so, likely transforming teaching and learning, and at a pace that often leaves little room for appropriate debates on risks and benefits or informed decisions thereafter. Digital and media literacy is essential for all, but cur- riculums must be updated to equip learners — young and old — with the knowledge and skills to understand, navigate and exert agency over an environment increasingly populated and mediated by AI.

There are potential benefits of AI use in the field of education. However, the use of AI, including GenAI, in education also carries specific risks that must be carefully addressed. Indeed, UNESCO has highlighted potential ethical chal- lenges associated with the adoption of GenAI in educational settings, calling for comprehensive long-term impact assessments.91 A main concern is the potential reduction in human-to-human interaction. This interaction and human connection is central in the social-emotional aspects of learning, which play an important role in cognitive development and emotional well-being.

88 Reece Rogers, Reduce AI Hallucinations with This Neat Software Trick, Wired, 14 June 2024. 89 Kate Brennan et al, Artificial Power: 2025 Landscape Report, p. 49. 90 See also Marina Nord et.al., Media Freedom, Democracy, and Security. 91 Miao and Holmes, Guidance for generative AI in education and research.

33 There is a risk that the experiences of learning and the acquisition of thinking skills are in danger of being replaced by GenAI-offered solutions. Indeed, academic research on the use of GenAI shows a worrying decline in criti- cal thinking skills.92 Recent research from industry has similarly shown a decrease in higher order thinking skills among professionals using GenAI models to perform their work.93 There is also concern that GenAI may nar- row exposure to different voices, as it tends to reflect ‘standard’ answers, further marginalizing under-represented voices.94

For AI to have a positive effect in education, integrating GenAI into educa- tional settings requires a clear understanding of its impact on learning and the acquisition of ‘thinking skills’, followed by clear guidance and training for educators. To be beneficial, it must also be subordinated to educational objectives related to the appropriate development of thinking abilities and human flourishing. In this way, AI could, for instance, enhance personalized learning through adaptive learning platforms, provide access to educational resources in underserved areas and support teachers by reducing redun- dant tasks such as automated marking of multiple-choice tests, thereby potentially allowing space and opportunity to enrich freedom of thought.

A growing area of concern in new GenAI is the deployment of chat bots designed to simulate human relationships for companionship, including life companions. Young people or people with mental health challenges can be at particular risk. Mental health vulnerabilities may be exacerbated, and terrible consequences occur when chatbots encourage unhealthy behav- iours or even advocate suicide.95 There are particular concerns when AI is used to address mental health issues; the development of appropriate AI- based mental health services is complex, and the risks of using chat bots, including those built for something else (e.g., entertainment or marketing) are significant. Professionals, including psychological associations, have

92 Andrew R Chow, ChatGPT’s Impact on Our Brains According to an MIT Study, Time, 23 June 2025. 93 Despite plans to invest $80 bn, Microsoft admits that AI is making us dumb, Business Standard, 17 February 2025, original source Parmy Olson, Bloomberg; Amanda Silberling, Is AI making us dumb?, TechCrunch, 10 February 2025. 94 Miao and Holmes, Guidance for generative AI in education and research. 95 Eileen Guo, An AI chatbot told a user how to kill himself — but the company doesn’t want to “censor” it, MIT Technology Review, 6 February 2025; Kate Payne, In lawsuit over teen’s death, judge rejects argu- ments that AI chatbots have free speech rights, Associated Press, 21 May 2025.

34 warned about such dangers.96 Immediate regulation, including banning certain applications or uses, is urgently needed to prevent harm and ensure the safe development of any technologies in this field.

The extent to which a person is consciously present and active in public spaces has also changed significantly in the age of AI-powered online spac- es. An inherent part of freedom of thought and conscience is our potential, as human beings, to be in constant evolution and change.97 However, there is now a permanence to everyone’s online public presence (e.g., through what they post online), including publicly available facts and the digitization of newspaper archives. For example, past thoughts expressed online can be held against a person today. This can be argued to limit the possibility and freedom to evolve in one’s own eyes and in the eyes of others. As such, the ‘right to become’ that Charles Malik, a drafter of the UDHR, described as the essence of freedom, risks being cut off at its source.

A ‘right to be forgotten’ is beginning to be recognized in jurisprudence in rela- tion to the right to privacy. This includes the right to have information about oneself that would otherwise remain permanently available in the public sphere erased, except in specific situations, especially where public interest considera- tions might prevail in terms of having access to certain information.98

However, people’s digital presence has evolved into what is called a digital footprint. This is a record of all of someone’s online activity, not just what they intentionally post or publish for others to see. It includes the web- sites they visit (recorded through cookies) and what these may say about them. This data makes increasingly sophisticated profiling possible — the extent and results of which one is not aware — affecting individual auton- omy. Beyond the basic targeting with tailored content, this profiling could 96 Zara Abrams, Using generic AI chatbots for mental health support: A dangerous trend; American Psychological Association, 12 March 2025; APA calls for guardrails, education, to protect adolescent AI users, American Psychological Association, Press Release, 3 June 2025; Nathalie Koubayová, Meet ChatPal, the European bot against loneliness, Algorithm Watch, 22 May 2023. 97 See, for example, Hannah Arendt, The Human Condition, (University of Chicago Press: 1953). 98 “The choice of measure to be implemented in the specific circumstances of each case may vary depend- ing on factors such as the veracity or inaccuracy of the information, the extent to which the information contributes to a debate of public interest, whether it has any historical, research-related or statistical interest, the negative repercussions on the individual’s personal sphere of the continued availability of the information online, as well as the amount of time that has elapsed since the events referred in the article, or since the publication of the information.” Joint Factsheet: The Right to be Forgotten. ECtHR and CJEU Case-Law, European Court of Human Rights and the EU Agency for Fundamental Rights, 30 October 2024.

35 become part of wider surveillance systems and could pose cybersecurity threats, or be used to persecute, for example, human rights defenders, dissenters or free thinkers in authoritarian regimes.99

99 See the Front Line Defenders webpage on Digital Protection.

36 5. Neurotechnology and freedom of thought

Another field, highly relevant for freedom of thought, and especially when intertwined with AI, is neurotechnology. This section provides an overview of the key challenges this field poses to freedom of thought.

In a seminal 2024 report, 100 the UN Human Rights Council Advisory Committee refers to “neurotechnology” as encompassing “an array of de- vices and systems that interact with the central nervous system through electrical, magnetic, optogenetic and other means.” Some of these devices and systems are primarily meant to understand the brain’s functioning, while others directly intervene in mental processes to restore lost functions and enhance cognitive abilities.

Recent developments in neurotechnology have increased our understand- ing of the brain and provided new treatments for various neurological or mental health conditions. Large, state-funded research initiatives have contributed to such advances.101 Nonetheless, the rapid development of neurotechnologies, including their combination with artificial intelligence, raises serious concerns for mental privacy, integrity and autonomy.

In a 2019 recommendation, the OECD Council recognized that “there are ethical, legal and societal questions raised by certain applications of neu- rotechnologies given the perceived centrality of the brain and cognitive function to notions of human identity, freedom of thought, autonomy, pri- vacy, and human flourishing” and that “a broad public discussion about

100 UN Human Rights Council Advisory Committee, Impact, opportunities and challenges of neurotechnol- ogy with regard to the promotion and protection of all human rights, A/HRC.57/61, 8 August 2024, para. 4. Another definition for neurotechnologies is “… devices and procedures used to access, monitor, inves- tigate, assess, manipulate, and/or emulate the structure and function of the neural systems of animals or humans”, Preliminary study on the technical and legal aspects relating to the desirability of a standard- setting instrument on the ethics of neurotechnology, UNESCO, 6 April 2023. 101 For example, the US Brain Research through Advancing Innovative Technologies (BRAIN) Initiative, the EU Human Brain Project, or the China Brain project, among others. See also Hermann Garden, David E Winickoff, Nina Maria Frahm, Sebastian Pfotenhauer, Responsible innovation in neurotechnology en- terprises, OECD Science, Technology and Industry Working Papers 2019/05, p. 15; or the International Brain Initiative.

37 the best future of neurotechnology in society” is warranted.102 In the draft text of a recommendation on the ethics of neurotechnology,103 UNESCO also considers the ethical, legal and societal issues and questions raised by the application of neurotechnologies with regards to human rights and human dignity including “autonomy, privacy, mental and physical integrity, personal identity, freedom of thought, risk of discrimination, inequality and challenges to democracy (…).” It further recognizes that the sensitivity of interventions in relation to the highly complex nervous system comes from its role in coordinating behaviour and mental processes: “It enables the exercise of individual autonomy, the capacity to act as moral agents, to be responsible for actions, cooperate with others, deliberate about collective decisions, and develop personality.”

While neurotechnology has been used in medicine for some time now, its convergence with engineering and computational sciences, alongside the growth of medical and commercial applications, has dramatically changed its impact, advancing medical science, but also introducing risks to free- dom of thought and other human rights.104

“… the unprecedented capacity [neurotechnologies] offer to exter- nal actors to affect an individual’s enjoyment of rights raises enor- mous ethical questions and challenges the very understanding of the foundational principles of human rights”. Neurotechnologies are socially disruptive because they generally: “(a) enable the exposi- tion of cognitive processes; (b) enable the direct alteration of a per- son’s mental processes and thoughts; (c) bypass the individual’s conscious control or awareness; (d) enable non-consensual external access to thoughts, emotions and mental states; (e) are nurtured by ‘neurodata’, which are needed for their own functioning, calibration and optimization; and (f) collect, analyse and process large personal datasets of a highly sensitive nature.” — UN Human Rights Council Advisory Committee, Impact, opportunities and challenges of neurotechnology with regard to the promotion and pro- tection of all human rights, A/HRC.57/61, 8 August 2024.

102 Recommendation of the Council on Responsible Innovation in Neurotechnology, Organisation for Eco- nomic Co-operation and Development, OECD/LEGAL/0457, adopted on 11 December 2019. 103 Draft text of the Recommendation on the Ethics of Neurotechnology, UNESCO, 9 April 2025. 104 Human Rights Council Advisory Committee, A/HRC.57/61.

38 In addition to medical uses, the use of neurotechnology-based products, through apps and devices, gaming experiences, health monitoring, medita- tion aids or even embedded in earphones, has made brain data accessible to technology companies with consequences for freedom of thought.105 As UNESCO asserts: “Companies can use neural data obtained from non- invasive neurotech devices for marketing purposes. By detecting signals related to our preferences and dislikes, these companies can influence customer’s behaviour for profit maximization. This raises alarming questions about the impact of surveillance, marketing tactics and political influence on our most private thoughts and emotions, ultimately threatening our democracies and the foundations of society.”106 Other sensor technolo- gies can indirectly collect data about our neural activity (e.g., eye tracking, voice recognition and analysis, facial-emotion recognition, etc.) and be- come problematic when used to infer mental states.107

“It is not simply a question of health that is at stake here, but rather our view of the human person, of our dignity and of the full capacity to exercise our rights in a context of tension between health needs and market aims. On the one hand, we have major health needs, since diseases of the nervous system, neurological diseases and mental illnesses represent one third of our health care expenditure (…) On the other hand, the consumer market, ‘neural data’ (also called ‘brain data’) are becoming a sought-after data type and com- modity beyond the medical sector including digital phenotyping, af- fective computing, neurogaming and neuromarketing. Among the tensions raised by neurotechnologies we should also mention public trust, respect for mental privacy, rapid technological and econom- ic development, and the fact that such developments face little or poorly supervised uses.” — Hervé Chneiweiss, Ethics issues and global governance of neurotech- nologies, in The risks and challenges of neurotechnologies for human rights, UNESCO, University of Milan-Biocca, and State University of New York (SUNY) Downstate, 2023, pp. 48-49.

105 Farahany, The Battle for Your Brain. 106 Ethics of neurotechnology, UNESCO webpage. 107 UNESCO, Draft text of the Recommendation on the Ethics of Neurotechnology.

39 In the aforementioned report, the Human Rights Council Advisory Committee concludes that neurotechnologies affect human rights in a unique manner. The report explores and explains the key risks to human rights, including freedom of thought, posed by the new landscape of neurotechnologies and their (potential) uses, such as the following: y Technologies initially developed to assist individuals with neurological conditions are now being developed and commercially marketed as apps for ‘cognitive enhancement’ and other, non-medical purposes. These technologies would allow users to control certain elements of their external environment with their thoughts, or communicate with others who have similar technologies implanted. While the medical solu- tions they provide can be ground-breaking, the absence of appropriate ethical and human rights frameworks for non-medical devices raises significant concerns, particularly for freedom of thought and non-dis- crimination, including ensuring equitable access for medical purposes. Concerns about the rights of children come into play, for example, if brain-computer interfaces (that have not been tested for their short or long-term effects on (mental) health) are used in gaming, or where neu- rotechnology devices might enhance intellectual capabilities. y Even if full-blown ‘thought-reading’ is not yet possible, AI-enhanced neurotechnologies, are increasingly capable of making nuanced infer- ences about thoughts and mental states and allow profiling of individuals in particularly intrusive ways. Specific privacy concerns arise, because neurotechnologies can generate detailed inferences about people’s identities (including personality traits, cognitive performance or sexual orientation). Additional risks emerge if this data is used in justice or national security systems, in suspect or witness interrogation, includ- ing through neurotechnology-enhanced lie detectors. It could violate the right not to testify against oneself, running the risk of individuals being punished for their thoughts. This includes situations where the technology may still be too inaccurate to be correct about the thoughts in question. Revealing unexpressed thought without the consent of the ‘owner’ runs counter to the essence of freedom of thought.108 y Devices for monitoring mental states are already in use in work environ- ments, particularly under extreme conditions, to ensure vigilance and

108 Human Rights Council Advisory Committee, A/HRC.57/61.

40  avoid accidents due to fatigue.109 While the stakes may be high, their deployment raises serious human rights concerns, including as related to worker’s rights and freedom of thought. This could open the door to neurosurveillance for productivity purposes.110 The EU AI Act took steps to address this issue for specific environments.111 More generally, the consumer application of these technologies, given their unknown long-term effects and particularly if deployed without clear ethical and human rights oversight, poses risks to both personal integrity and (men- tal) health. y Groups in vulnerable situations, such as the elderly, children, people with disabilities and people deprived of liberty or in other custodial settings, are especially at risk while there is no proper regulation of the development and use of neurotechnologies. There are particular issues over consent, which should always be prior, free, informed, real, transparent, effective and never assumed. Given the medical purposes for which many of these technologies are developed, people with disabilities and their representa- tives, for example, should be included in the development process, with their needs, rights and perspectives as end users prioritized. Respect- ing the rights of people with disabilities also includes ensuring they have full access to the neurotechnologies once developed, and that they are safe, effective and respect human rights in their design, development and use.112 This approach also aligns with the social model of the Convention on the Rights of Persons with Disabilities, which views disability as part of human diversity and society, as opposed to the ableist medical model that historically focused on prevention and cure.113 Regulations should aim to protect human rights, by defining clear human rights-compliant frameworks for commercial uses, while keeping the achievement of medical breakthroughs as a priority.

109 These include fields such as mining, construction, trucking, aviation, railways. Farahany, The Battle for Your Brain. See also José M. Muñoz, Laura Isaza, and Tarini Mehta, Tech is coming for your brain data: how a Chilean politician turbocharged the “neurorights” movement, The Boston Globe, 10 September 2024. 110 Human Rights Council Advisory Committee, A/HRC.57/61. 111 High-level summary of the AI Act, EU Artificial Intelligence Act, 27 February 2024, updated on 30 May 2024. Under the Act, inferring emotions in workplaces or educational institutions, except for medical or safety reasons, falls under prohibited AI systems. See also Nora Santalu, Neurotechnologies under the EU AI Act: Where law meets science, IAPP, 12 May, 2025. 112 Human Rights Council Advisory Committee, A/HRC.57/61. 113 International Disability Alliance, Submission to the Human Rights Committee Advisory Committee call for inputs on neurotechnology and human rights, 2 July 2023, see the OHCHR Neurotechnology and human rights webpage.

41 6. Regulatory frameworks

The regulation of AI throughout its lifecycle has lagged behind in one of the fastest growing and most complex and consequential fields in the his- tory of humanity. While various non-binding documents exist at regional or global level, there is no single, universal, legally-binding standard on AI that protects human rights.114

In adopting its Recommendation on the Ethics of AI in 2021, the UNESCO General Conference did so in recognition “of the profound and dynamic positive and negative impacts of artificial intelligence (AI) on societies, environment, ecosystems and human lives, includ- ing the human mind, in part because of the new ways in which its use influences human thinking, interaction and decision-making and affects education, human, social, and natural sciences, culture, and communication and information.” The Recommendation primarily aims to protect human rights and dignity, based on a set of prin- ciples, such as transparency, fairness or human oversight. In its preamble, it also warns of various asymmetries of power around AI, which raise diverse and serious risks and potential consequences, and advocates for stronger global cooperation and solidarity, includ- ing multilateralism. — Recommendation on the Ethics of Artificial Intelligence, UNESCO, 23 November 2021

By regulating the field through the EU AI Act, the EU has made significant progress, including on human rights protections. Since it has only been adopted recently and needs further guidance and instrument develop- ment, as well as national-level implementation frameworks, the Act has yet to demonstrate its capacity to mitigate human rights impacts. In 2024, the Council of Europe also adopted a Framework Convention on Artificial

114 Artificial Intelligence, UNESCO webpage; UNESCO, Draft text of the Recommendation on the Ethics of Neurotechnology; Artificial intelligence, OECD webpage; Governing AI for Humanity: Final Report, United Nations AI Advisory Body, September 2024; UN Global Digital Compact.

42 Intelligence and Human Rights, Democracy and the Rule of Law, which includes a larger number of countries under its framework.115

While concerns have also been raised about both instruments in terms of scope and effectiveness of protections,116 it is important that instruments such as the Framework Convention are ratified, fully implemented and strengthened where needed. This requires resources and commitment at state level and from EU institutions in the case of the EU AI Act. While non- binding, and not a substitute for regulation, industry standards also con- tribute to creating ethical frameworks.117 ODIHR also notes the emergence of academic work and initiatives that specifically look at the need for global regulatory frameworks and inform debates on this topic.118

The EU AI Act is currently the most comprehensive attempt to create a framework regulating AI development and use, far ahead of other regula- tory frameworks. It adopts a risk-based approach, categorizing AI systems into prohibited, high-risk, limited risk and minimal risk. It regulates general purpose AI — essentially those operating on foundational models, such as GenAI — and imposes a number of obligations, including on transparency and accountability. It also defines general purpose AI that poses systemic risks (i.e., powerful models), imposing further requirements and clarify- ing that such systems can be used as high-risk AI systems, or integrated into them, which brings specific obligations to cooperate with such high- risk systems to enable their compliance under the Act. Importantly, free and open licence general purpose AI models have to comply with fewer

115 It is also open for signature to the non-Member States of the Council of Europe that helped develop it, and there are specific, separate procedures allowing other, non-Member States to join. As of January 2025, it had been signed by the United States and Israel, outside the Council of Europe. For it to be binding, it also requires ratification. 116 See EU: Artificial Intelligence rulebook fails to stop proliferation of abusive technologies, Amnesty Interna- tional, 13 March 2024; and ENNHRI Calls on Council of Europe member States to ensure strong human rights protection in the draft Convention on AI, Human Rights, Democracy and Rule of Law, ENNHRI, 17 May 2024. For a comprehensive analysis of the Act, as well as other related legislation, see Sandra Wachter, Limitations and Loopholes in the EU AI Act and AI Liability Directives: What This means for the European Union, the United States, and Beyond, Yale Journal of Law and Technology, Vol. 26, Issue 3, pp. 671-718; for a discussion of specific neurotechnologies, including gaps in EU legal coverage, see Christoph Bublitz, Banning biometric mind reading: the case for criminalizing mind probing, Law, Innova- tion and Technology, Vol. 16, Issue 2, pp. 432–462. 117 See, for example, IEEE Frameworks, Institute of Electrical and Electronics Engineers (IEEE) Tech Ethics. 118 See, for example, Alexander Kriebitz, Caitlin C Corrigan (eds.), Promoting and Advancing Human Rights in Global AI Ecosystems: The Need for A Comprehensive Framework under International Law, February 2025.

43 obligations under the EU AI Act.119 Risk-based frameworks like the EU AI Act can serve as models for other regions.

Prohibited AI systems include those that: deploy subliminal, ma- nipulative or deceptive techniques to change behaviour and hamper informed decision-making, and that cause significant harm; exploit people’s vulnerabilities (e.g., age, disability, socio-economic circum- stances) to distort behaviour, and causing significant harm; biometric categorization systems (with exceptions for law enforcement); per- form social scoring based on social behaviour or personality traits; assess the risk of an individual criminally offending solely based on profiling or personality traits, except when used to enhance human assessments based on objective, verifiable facts directly linked to criminal activity; compile facial recognition databases by indiscrimi- nate harvesting of facial images from the internet or CCTV; infer emo- tions in workplaces or educational institutions, except for situations where medical or safety concerns arise; perform remote biometric identification in real time and in public spaces for law enforcement purposes, with some exceptions that require, among others, a fun- damental rights impact assessment.

High-risk AI systems providers are subject to specific requirements, including risk management, data quality, transparency, accountability and human oversight. Before deployment, with some exceptions and under certain conditions, these systems also have to undergo a fundamental rights impact assessment. AI systems that profile individuals are always considered high-risk. — Drawn from the High-level summary of the AI Act, EU Artificial Intel- ligence Act webpage, 27 February 2024, last updated on 30 May 2024.

Before the AI Act, the EU adopted the Digital Services Act (DSA) package, which regulates online platforms and intermediaries, with specific rules for very large platforms and search engines. The DSA also focuses on ad- dressing systemic risks including in the areas of: illegal content, freedom

119 High-level summary of the AI Act, EU Artificial Intelligence Act, 27 February 2024, updated on 30 May 2024.

44 of expression, media freedom and pluralism, discrimination, consumer protection and children’s rights, public security and electoral processes, gender-based violence, and mental and physical well-being. It also requires a certain level of transparency and oversight by authorities and an option for recommender systems not based on user profiling.120

This EU regulatory framework operates in an extremely complex field, and its impact is only starting to be seen and understood. The necessary instru- ments and institutional frameworks, especially at the national level, are still being developed/established at the time of writing.121 Furthermore, the move towards securing human rights protections in relation to AI through regulation is not a given.122 While important, the EU framework does not apply to the whole OSCE region, let alone the world, and global regulation is necessary.123 Both the EU AI Act and the Council of Europe Framework Convention include exceptions for national security purposes. Given that the EU is the most ad- vanced regulator of AI in the world, the national security exceptions raise sig- nificant human rights concerns, potentially contributing to a new global arms race, where AI supremacy is seen as the key to dominance.124 To mitigate this, international cooperation is essential to develop harmonized standards that close such gaps and prevent misuse while promoting responsible innovation.

While the development of products in the medical field is subject to certain regulations, neurotechnologies that are developed for commercial purposes raise new risks for human rights and fundamental freedoms. These tech- nologies require stronger frameworks for protection. Noting that there are certain, but generally limited, elements of regulation at national or regional125

120 European Commission, DSA: Very large online platforms and search engines (webpage last updated 12 February 2025); and European Commission, The Digital Services Act package (webpage last updates 12 February 2025). 121 See Towards meaningful fundamental rights impact assessments under the DSA, European Center for Not-for-Profit Law and Access Now, 15 September 2023; and Aninda Chakraborty, LatticeFlow AI un- veils EU compliance framework for Generative AI, Tech Monitor, 17 October 2024; Overview of all AI Act National Implementation Plans, EU Artificial Intelligence Act website, 8 November 2024 (last update 19 May 2025). 122 Withdrawal of the AI Liability Directive Proposal Raises Concerns Over Justice for AI Victims, Center for Democracy and Technology, 12 February 2025. 123 Some states outside the OSCE region have adopted various regulatory frameworks, but they are not the subject of this analysis. The EU remains the most advanced and complex regulator in this field. 124 Ilaria Carroza, Nicholas Marsh and Gregory M. Reichberg, Dual-Use AI Technology in China, the US and the EU: Strategic Implications for the Balance of Power. PRIO Paper, (Oslo: PRIO, 2022). 125 See, for example, OECD, Recommendation of the Council on Responsible Innovation in Neurotechnology. OECD/Legal/0457, adopted on 11 December 2019.

45 levels or within the EU AI Act, there are no universal, international, legally- binding standards on neurotechnologies. At UNESCO, Member States are currently negotiating the first, non-binding, global, standard-setting instru- ment on the ethics of neurotechnology, following from its earlier work on the ethics of AI.126 Beyond this, comprehensive regulation is required that will cover the full complexity of the new challenges neurotechnologies pose, both through existing protection frameworks that could be expanded to encompass the specific new risks to human rights, and through new instru- ments on the development and use of neurotechnologies.

In a 2024 report,127 the UN Special Rapporteur on the Right to Privacy pro- posed text for a resolution updating the 1990 General Assembly Resolution 45/95, “Guidelines for the regulation of computerized data files”. The pro- posed text states that neurodata processing “must not be used to manipulate or alter the freedom of thought and consciousness of an individual, making him or her dependent on a third party or altering his or her ideas, security or independence or his or her natural cerebral identity or neurocognitive integrity.” Furthermore, such data may not “be processed for purposes other than the promotion of health and the diagnosis, rehabilitation and alleviation of dis- ease in the context of the right to health, or scientific research in the fields of biology, psychology and medicine aimed at alleviating suffering or improving health.” In April 2025, through Resolution 58/6, the UN Human Rights Council recognized that “the continued development of some of its applications may pose a number of ethical, legal and societal questions and has implications for human dignity and autonomy, making it necessary to ensure that human rights are effectively respected, protected and fulfilled in this context”. It requested the Advisory Committee to draft a set of guidelines for applying the existing human rights framework to the conception, design, development, testing, use and deployment of neurotechnologies.128

Although many complexities persist and the implications are still unclear, people’s understanding of how social media uses their data has rapidly advanced in recent years. By contrast, their understanding of the human

126 The Ethics of Neurotechnology: UNESCO appoints international expert group to prepare a new global standard, UNESCO Press release, 22 April 2024. 127 A/79/173: Report of the Special Rapporteur on the right to privacy, Ana Brian Nougrères - Proposal for the updating of General Assembly resolution 45/95 of 14 December 1990, entitled “Guidelines for the regulation of computerized personal data files”, OHCHR, 17 July 2024. 128 Human rights guidelines on neurotechnology, UN Human Rights Council webpage.

46 rights implications of giving up their neurodata remains extremely low, es- pecially given the lack of vvan appropriate regulatory framework.129

The ‘AI revolution’ earns its name from the profound way it has transformed human life and will continue to do so. However, this revolution has largely taken place without any public debate or contribution to decision-making. Having consumers operating in the digital market, only partially aware and in limited control of their choices, is not the same as democratic deliberation. Likewise, the rapid development of neurotechnologies, and in particular the commodification of devices that interact with the human brain or neural cir- cuits, have an impact on human rights in an unprecedented and profound manner. OSCE participating States have a duty to reinstate the conditions necessary for public debate on issues of critical societal importance. Issues such as the ‘cognitive enhancement’ of healthy individuals, for example, or possibly even ‘human augmentation’ bear such profound implications for humanity that they deserve genuine and thorough public debate to inform de- cisions on how to regulate such technologies. Debates and decision-making must include a broader range of people than the tiny number engaged in de- veloping the technology or the few engaged in research who can claim to have an informed opinion on the subject.130 Even if the topics are complex, their implications for society should be carefully distilled into clearly understandable information and shared with the general public, so that genuine democratic deliberation can happen, including on whether to use AI or not.

“The AI hype (…) has sucked the air out of an already stuffy room, making it feel futile—at times impossible—to imagine anything other than a steady march toward the inevitable supremacy of AI. But no matter how true that may feel, it is only that: a feeling. It is not real- ity—not yet, at least. There are, in fact, many alternatives to this ver- sion of AI, many ways to shape new worlds. Like AI, though, these are not inevitable either. Making them possible starts by asking and answering a single question: Is this the world we want?” — Kate Brennan, Amba Kak and Dr. Sarah Myers West, Artificial Power: 2025 Landscape Report, AI Now Institute, 3 June 2025, pp. 9 and 12.

129 Farahany, The Battle for Your Brain. 130 See also OECD, Recommendation of the Council on Responsible Innovation in Neurotechnology, Rec- ommendation No. 5: Enable societal deliberation on neurotechnology.

47 7. Conclusions and recommendations

The need to protect the right to freedom of thought is becoming increasingly urgent, given the extent to which AI-based technologies are shaping both so- cieties and individuals’ sense of self. The current framework for the develop- ment and use of these technologies deepens power imbalances and poses risks to democracy. Thought and decision-making must be protected against novel forms of subtle but effective manipulation, while unexpressed thoughts must remain private. In the absence of adequate regulatory frameworks to protect human rights, the proliferation of AI-based technologies seems to be blurring, if not erasing, the contours of democratic responsibility and ac- countability. States have a duty to respect, protect and fulfil human rights, which requires specific regulation at national and international levels. States may be late in devising regulation, but there is still time for them to do so, in particular for the development and use of neurotechnologies to mitigate the risks of the widespread harm they may do.

Building on a set of non-exhaustive criteria proposed by the UN Special Rapporteur on freedom of religion or belief to assess, on a case-by-case basis, what may amount to impermissible manipula- tion of thought, Susie Alegre and Aaron Schull outline a set of factors for a legal test to assess technology-enabled, unlawful manipulation. They note that the right to freedom of thought, as part of the general human rights framework under the UN, “evolved in response to the atrocities committed by Nazi Germany and in recognition of the un- fathomable risks of the brainwashing of populations to human rights more broadly. The lines around effective protection of the right to freedom of thought are crucial for the future of democracy and hu- man rights around the world.” They go on to propose that “[a] new legal test should be set out under a General Comment by the HRC that takes account of a range of additional factors: y The scope and scale of application of a practice; y Whether the general public or individuals concerned are aware of a tactic for influence;

48  y Whether the general public or individuals concerned can under- stand the impact of a particular practice; y Whether the practice is designed to bypass rational faculties; y The intensity and period of time of exposure; y The targeting of particular cognitive biases or vulnerabilities (es- pecially when based on “insider knowledge” drawn from data); y Any power imbalance; and y He practical ability to say no.” — Susie Alegre and Aaron Schull, Freedom of Thought: Reviving and Pro- tecting a Forgotten Human Rights, Center for International Governance Innovation, 2024, p. 12.

In light of the arguments presented in this document and to create an enabling environment for freedom of thought, OSCE participating States are recommended to: y Adopt human rights-based policies, legislation and regulations at the national level and establish institutional infrastructure to ensure the respect, protection and fulfilment of the right to freedom of thought, and all human rights and fundamental freedoms, in the con- text of the growing role of AI-based technologies/that use AI, including neurotechnologies. Additionally, to ensure respect for human dignity and democratic principles, it will be critical to regulate neurotechnolo- gies strictly based on ethical and human rights considerations, includ- ing by avoiding the social media business model, while incorporating risk-based approaches and ensuring human rights protections across the AI lifecycle as developed by industry. y Adopt human rights impact assessment methodologies as stand- ard practice, building the legal and institutional framework necessary to ensure the widespread use of such methodologies. These tools must prioritize the respect, protection and fulfilment of human rights through- out the AI life cycle and, through regular review, adapt to the rapid pace of AI development and new human rights challenges it brings. Develop tools to integrate freedom of thought into human rights impact assessments for all AI-based technologies, considering it both as a separate right and as interdependent with other rights, particularly free- dom of expression and the right to a private life.

49 y Collect data on AI throughout its life cycle, looking at compliance with human rights standards (including freedom of thought), po- tential good practices and ways to benefit from AI, as well as assessing access and equity. Given the rapid uptake of new, AI- based technologies in different fields, the world is falling behind not only in regulation, but also in the effective monitoring and mapping needed to understand the effects on human rights, anticipate implications and identify emerging opportunities. States have a duty to monitor and en- sure respect for human rights. Particular care is warranted for the most vulnerable, including people with disabilities, children, the elderly or those in places of deprivation of liberty. y Foster and sustain new research and conceptual clarification on standards for the promotion and protection of freedom of thought, especially in the context of new, AI-based technologies. This should include international cooperation in UN forums, (e.g., through the adop- tion of Human Rights Council resolutions), as well as activating UN hu- man rights mechanisms (e.g., requesting General Comments/reports) or through other, similar means. y Work with and prepare education systems to reflect new modes of social life and help learners understand and act as critical thinkers, with au- tonomy and agency, in order to be able to preserve their freedom of thought in a world increasingly powered by AI. This will probably require more than today’s digital literacy efforts. New national curriculums should cover the content, skills and behaviours necessary to prepare current and future generations for these changes, which are affecting all areas of life. Adult learning and awareness-raising campaigns should also be implemented. y Work with all educational and training institutions to provide ethics and human rights training for those working or deciding on the use of AI throughout its life cycle to ensure it is built to respect and, ideally, enhance the protection and fulfilment of hu- man rights. Training while studying (e.g., at university) and continuous training for those already working should ensure that those developing, deploying or operating AI and new technologies (from data scientists to engineers and others) have sufficient training in the ethical and human rights implications of the technology, including as related to freedom of thought. Professionals working with AI throughout its lifecycle (including those making decisions over purchase and deployment) should know

50  how to conduct human rights impact assessments and embed human rights protections into AI-technologies by design. y Protect independent media and strengthen its public interest role, also in protecting freedom of thought, freedom of opinion and freedom of expression, including by implementing the OSCE/ RFoM recommendations on this highly important topic.131 y Foster genuine public debate on the ethical and human rights implications, including on freedom of thought, of AI and neuro- technologies. These should be structured and multidisciplinary, and engage diverse stakeholders, especially those whose rights may be affected or end users of the technologies. The debates should involve public interest media to raise public awareness on these implications, and ensure information is distilled to facilitate an informed public debate. They should be transparent and accountable, with the results reflected in policy decisions. y Work with the OSCE’s independent institutions, such as ODIHR and the RFoM, to ensure the regulation and implementation of a human rights-compliant AI life cycle.

131 For more information, see the OSCE RFoM Spotlight on Artificial intelligence and Freedom of Expression — SAIFE Resource Hub and the Policy manual in particular as well as upcoming work on Media and Big Tech.

51

Размышления на тему: свобода мысли в эпоху искусственного интеллекта АНАЛИТИЧЕСКАЯ ЗАПИСКА Размышления на тему: свобода мысли в эпоху искусственного интеллекта АНАЛИТИЧЕСКАЯ ЗАПИСКА Благодарность БДИПЧ ОБСЕ выражает искреннюю благодарность всем, кто щедро поделился своими знаниями и опытом в ходе подготовки этой публикации. Их содержательные рецензии и отзывы на разных этапах работы внесли неоценимый вклад в этот процесс. БДИПЧ выражает особую благодарность членам Группы экспертов БДИПЧ по свободе религии и убеждений, в особенности Ахмеду Шахиду, Дэвиду Гриффитсу и Паскуале Анниккино за их обстоятельные комментарии. БДИПЧ также выражает признательность Камерану Ашрафу, Кристофу Бублицу, Эрве Шнейвайсу, Эмили Эльштуб, Александру Крибицу и Саймону Маккарти- Джонсу, а также нашим коллегам из аппарата Представителя ОБСЕ по вопросам свободы СМИ за рецензирование различных вариантов проекта данной публикации и ценные предложения. БДИПЧ также выражает особую благодарность Бенджамину Гринакру, чьи работы по данной теме в значительной степени помогли улучшить окончательный вариант документа, и Милене Костас Траскасас за постоянный диалог и дух сотрудничества. Размышления на тему: свобода мысли в эпоху искусственного интеллекта Опубликовано Бюро ОБСЕ по демократическим институтам и правам человека (БДИПЧ) ul. Miodowa 10 00-251 Warsaw Poland www.osce.org/odihr © БДИПЧ ОБСЕ, 2026 Все права защищены. Содержание данной публикации можно свободно использовать и копировать в образовательных и других некоммерческих целях при условии, что любое такое воспроизведение будет сопровождаться указанием БДИПЧ ОБСЕ в качестве источника. ISBN: 978-92-9271-490-1 Оформление: Филип Андроник (Filip Andronik) Оглавление

Резюме ......................................................................................................... 5

Введение....................................................................................................... 7

1. О свободе мысли.................................................................................... 9

2. Об искусственном интеллекте............................................................. 16

Генеративный ИИ.................................................................................... 17

Влияние корпораций в эпоху ИИ .......................................................... 20

3. Алгоритмическое мышление и его последствия для прав человека ............................................................................... 23

ИИ, предвзятость и мышление............................................................... 23

Человеческий контроль, прозрачность и подотчетность...................... 27

4. Свобода мысли в изменившемся гражданском пространстве....... 30

Как новая архитектура гражданского пространства влияет на свободу мысли...................................................................................................... 30

Как «информационная путаница» меняет реальный выбор . ................ 36

Как ИИ влияет на связи между людьми, развитие мышления и право на забвение.................................................................................. 39

5. Нейротехнологии и свобода мысли.................................................... 43

6. Нормативно-правовая база................................................................. 50

7. Выводы и рекомендации...................................................................... 58 Резюме

Настоящая аналитическая записка представляет собой краткое введение в тему права на свободу мысли, в котором отмечается, что на государствах лежит позитивная обязанность по созданию благоприятных условий для его полного осуществления1. В начале свобода мысли рассматривается как основополагающее право, которое необходимо защищать и поддерживать в любых контекстах. Далее говорится о том, как новые технологии – искусственный интеллект (ИИ) и нейротехнологии – меняют условия реализации свободы мысли. При том что эти системы и технологии (в зависимости от того, как они разрабатываются и внедряются) могут использоваться для расширения возможностей для реализации прав человека2, в частности, путем улучшения доступа к разнообразной информации, оказания содействия образовательным процессам или развитию медицины, они вместе с тем являются источником беспрецедентных рисков. Перед разработкой, внедрением и использованием таких технологий необходимо проводить комплексную оценку воздействия и предусматривать надежные защитные механизмы.

В данной аналитической записке рассматриваются последствия новой информационной экосистемы для свободы мысли, а также потенциальное воздействие нейротехнологий на основе ИИ, в связи с которыми возникают фундаментальные вопросы о неприкосновенности «ментальной автономии» личности. В аналитической записке также излагаются рекомендации для государств по обеспечению свободы мысли в цифровую эпоху, в том числе по следующим аспектам: y регуляторные и институциональные защитные механизмы для противодействия возникающим рискам, особенно связанным с искусственным интеллектом и нейротехнологиями;

1 Хотя в документе признается, что некоторые направления использования ИИ в военной области и в сфере наблюдения имеют существенные последствия для свободы мысли, эти вопросы не рассматриваются в данной аналитической записке. 2 Theresa Addie, MS., Harnessing Technology to Safeguard Human Rights: AI, Big Data, and Accountability [Технологии на страже прав человека: ИИ, большие массивы данных и подотчетность], Специальный докладчик ООН по вопросам свободы религии и убеждений Ахмед Шахид, Доклад Специального докладчика по вопросам свободы религии и убеждений, A/76/380, 5 октября 2021 г., пункты 2-4.

5 y механизмы этического надзора и обязательная оценка воздействия на права человека, предусмотренные на всех этапах жизненного цикла ИИ3; y инициативы по обеспечению прозрачности, инклюзивных общественных обсуждений и подотчетности в рамках процессов принятия решений; y развитие потенциала разработчиков и специалистов по системам ИИ посредством подготовки и обучения по вопросам этики и прав человека; y усиление роли независимых институтов в области защиты свободы мысли и демократических ценностей.

Авторы аналитической записки приходят к выводу, что инновации, изначально не учитывающие права человека и не обеспечивающие их защиту, подрывают цели, призванные служить ориентиром для этического, научного и технологического прогресса, а именно — обеспечение пользы для человечества4.

Исходя из работы, проделанной международными организациями и научными кругами в области ИИ, нейротехнологий и прав человека в данной публикации рассматриваются соответствующие конкретные последствия для свободы мысли. Этот документ призван стать основой для дальнейшего обсуждения и источником информации для инициатив и действий БДИПЧ, государств-участников и других заинтересованных сторон.

3 Глобальный цифровой договор ООН, резолюция Генеральной Ассамблеи ООН A/RES/79/1 «Пакт во имя будущего» от 22 сентября 2024 года, охватывает следующие этапы жизненного цикла цифровых и новых технологий: предварительное проектирование, проектирование, разработка, оценка, тестирование, внедрение, использование, продажи, закупки, эксплуатация и вывод из эксплуатации. 4 Декларация об использовании научно-технического прогресса в интересах мира и на благо человечества, принята Резолюцией 3384 (XXX) Генеральной Ассамблеи от 10 ноября 1975 года.

6 Введение

По мере того, как правительства осваивают стремительно развивающуюся сферу искусственного интеллекта (ИИ), в частности, его интеграцию в такие области, как нейротехнологии, важнейшее, но часто игнорируемое, право человека — право на свободу мысли — требует безотлагательного внимания. Это право закреплено во Всеобщей декларации прав человека (ВДПЧ) наряду с правом на свободу совести и вероисповедания и гарантирует способность человека мыслить самостоятельно, формировать свои собственные убеждения, принимать независимые решения и предлагать новые идеи. Это право поддерживает креативность, инновации и формирование устойчивых и плюралистических обществ5.

Кроме того, это право предусматривает свободу не раскрывать свои мысли, а также свободу от принуждения, наказания за мысли и недопустимого изменения мыслей человека6. Признавая основополагающий характер этого права, государства-участники ОБСЕ взяли на себя обязательство защищать свободу мысли. Их первым шагом стало принятие Хельсинкского Заключительного акта7.

5 Международный пакт о гражданских и политических правах, принят резолюцией 2200 А (XXI) Генеральной Ассамблеи от 16 декабря 1966 года, ст. 18: «1. Каждый человек имеет право на свободу мысли, совести и религии. Это право включает свободу иметь или принимать религию или убеждения по своему выбору и свободу исповедовать свою религию и убеждения как единолично, так и сообща с другими, публичным или частным порядком, в отправлении культа, выполнении религиозных и ритуальных обрядов и учении. 2. Никто не должен подвергаться принуждению, умаляющему его свободу иметь или принимать религию или убеждения по своему выбору. 3. Свобода исповедовать религию или убеждения подлежит лишь ограничениям, установленным законом и необходимым для охраны общественной безопасности, порядка, здоровья и морали, равно как и основных прав и свобод других лиц. 4. Участвующие в настоящем Пакте Государства обязуются уважать свободу родителей и в соответствующих случаях законных опекунов, обеспечивать религиозное и нравственное воспитание своих детей в соответствии со своими собственными убеждениями». 6 Это относится к любому изменению мыслей способом, противоречащим стандартам прав человека, в том числе посредством воздействия на мозг. См. Ахмед Шахид, Доклад Специального докладчика по вопросам свободы религии и убеждений. 7 Заключительный акт первого Совещания по безопасности и сотрудничеству в Европе (СБСЕ), 1 августа 1975 г, признал одним из основных руководящих принципов «уважение прав человека и основных свободы, включая свободу мысли, совести, религии и убеждений». Это право было закреплено в ряде документов ОБСЕ (например, Итоговый документ Венской встречи 1986 года,

7 Вместе с тем на фоне стремительного развития новых технологий, включая искусственный интеллект и нейротехнологии, реализация права на свободу мысли оказалась под угрозой. Поскольку такие системы и технологии все больше влияют на то, как мы думаем, общаемся и взаимодействуем, возникают сложные юридические, этические и социальные вопросы, которые требуют от государств- участников внимания и действий.

4 ноября 1986 г. по 19 января 1989 г.; Документ Копенгагенского совещания конференции по человеческому измерению СБСЕ, 29 июня 1990 г.; Решение № 4/03 Совета министров ОБСЕ «Толерантность и недискриминация» [Маастрихт, 2 декабря 2003 г. (на англ. языке); Решение № 3/13 Совета министров ОБСЕ «Свобода мысли, совести, религии и убеждений», Киев, 9 декабря 2013 г.

8 1. О свободе мысли

Статья 18 Всеобщей декларации прав человека (ВДПЧ) защищает право на «свободу мысли, совести и религии»8. Как правило, основной акцент делается на религии: Статью 18 часто называют сокращенно статьей «о свободе религии или убеждений» или «о свободе вероисповедания». До недавнего времени неотъемлемая защита свободы мысли считалась настолько очевидной, что ее определение казалось ненужным, несмотря на то что она является основополагающим началом человеческого достоинства и автономии, а также всех других прав человека. Один из авторов Всеобщей декларации прав человека Рене Кассен называл свободу мысли «источником всех других прав», но ни он, ни другие авторы декларации не излагали свое видение более подробно, при этом судебная практика, касающаяся свободы мысли, является незначительной9.

В то же время после Второй мировой войны авторы Всеобщей декларации прав человека хорошо понимали, что может угрожать этому праву. Попытки повлиять на мышление или изменить его, а также наказать за реальные или предполагаемые мысли и мнения имеют давнюю историю10. Люди, взгляды которых расходятся с общепринятыми, которые мыслят иначе и подвергают сомнению действующие нормы, сталкиваются с принудительными мерами, которые, как правило, ужесточаются в условиях автократии11.

8 Всеобщая декларация прав человека, Резолюция ГА ООН 217 A, 10 декабря 1948 г. 9 Ахмед Шахид, Доклад Специального докладчика. 10 От нацистской пропаганды, которая привела к Холокосту, до тоталитаризма и авторитаризма, а также других ситуаций, когда государства предпринимали действия, препятствующие свободе мысли, например, меры по предотвращению насильственного экстремизма и радикализации, ведущих к терроризму. См., например, ‘This is the Thought Police’: The Prevent Duty and Its Chilling Effect on Human Rights [Это полиция мысли: обязанность по предотвращению и ее негативное воздействие на права человека], (London: Amnesty International, 2023); Специальный докладчик ООН по вопросу о свободе религии или убеждений Ахмед Шахид, Доклад о взаимосвязи между свободой религии или убеждений и насильственным экстремизмом, A/73/362, 5 сентября 2018 г., пункт 43. 11 По состоянию на 2023 год 71% населения мира проживал в странах с авторитарным режимом, в 2003 году эта доля составляла 50%; в 2024 году 42 страны (в которых проживает 35% населения мира) переживали процесс «автократизации», а 18 стран (в которых проживает 5% населения мира) — процесс демократизации. См. Marina Nord, Martin Lundstedt, and Staffan I Lindberg, Media Freedom, Democracy, and Security, Research Report [Доклад о свободе СМИ, демократии и безопасности], OSCE/RFoM, 15 July 2024, p. 6

9 Несмотря на отсутствие в международном праве определения понятия «мыcль»12, можно определить его контуры и признаки, чтобы обеспечить его защиту на практике.

В соответствии со Статьей 18 Всеобщей декларации прав человека и Международным пактом о гражданских и политических правах (МПГПП) это право обычно рассматривается в контексте свободы совести и свободы религии или убеждений. Вместе с тем свобода мысли не ограничивается вопросами религиозной свободы. Комитет ООН по правам человека дает авторитетное толкование Статьи 18 МПГПП в Замечании общего порядка № 22, где поясняет, что она «охватывает свободу мысли по всем вопросам»13.

Следует отметить, что отступление от Статьи 18 не допускается: это означает, что государства не могут приостанавливать выполнение своих обязательств в отношении этого права даже в условиях «чрезвычайного положения в государстве, при котором жизнь нации находится под угрозой»14. Свобода мысли обычно понимается как абсолютное и безусловное право. В Замечании общего порядка № 22 отмечается, что Статья 18 «не допускает установления каких-либо ограничений свободы мысли и совести или свободы иметь или принимать религию или убеждения по своему выбору»15. Эти свободы, наряду с правом беспрепятственно придерживаться своих мнений (Статья 19.1 МПГПП), образуют то, что в праве в области прав человека называют forum internum, или внутреннее пространство человека (разум)16.

Forum internum противопоставляется forum externum, который касается выражения мыслей, убеждений или веры. Права forum externum не являются абсолютными17. Напротив, они могут быть ограничены

12 Ахмед Шахид, Доклад Специального докладчика, п. 11. 13 Замечание общего порядка № 22, Статья 18 (Свобода мысли, совести и религии), Комитет ООН по правам человека, 48-я сессия, 27 сентября 1993 г., п. 1. 14 Не подлежит отмене и ряд других прав, в том числе Статья 6 (право на жизнь); Статья 7 (право не подвергаться пыткам или жестокому, негуманному или унижающему достоинство обращению или наказанию); Статья 8, пункты 1 и 2 (право не находиться в рабстве или подневольном состоянии и обязанность запрещать рабство и работорговлю во всех их формах). 15 Ахмед Шахид, Доклад Специального докладчика, п. 3. 16 Там же, п. 2. 17 МПГПП, ст. 18.3: Свобода исповедовать религию или убеждения подлежит лишь ограничениям, установленным законом и необходимым для охраны общественной безопасности, порядка, здоровья и морали, равно как и основных прав и свобод других лиц. МПГПП, ст. 19.3: Пользование

10 государством, «как установлено законом и необходимо для охраны государственной безопасности, общественного порядка, здоровья или нравственности населения, равно как и основных прав и свобод других лиц» (а в случае Статьи 19.3 — по дополнительным основаниям защиты национальной безопасности).

В этой формулировке проводится различие между аспектами Статей 18 и 19, которые имеют абсолютную защиту, и теми, которые могут быть ограничены при определенных обстоятельствах. Вместе с тем рассмотрение свободы мысли исключительно в контексте forum internum наделяет ее пассивным характером. Мысль — это не только движущая сила деятельности человека, но и сама деятельность, которая должна осуществляться беспрепятственно.

Как и все другие права человека, свобода мысли часто пересекается с другими правами и свободами на фоне их глубокой взаимосвязи и взаимозависимости. Пожалуй, одним из важнейших является ее связь с неприкосновенностью частной жизни, правом, которое в отдельных ситуациях может быть ограничено, с точки зрения защиты (ментального) пространства для рождения мысли. Такое пересечение также иллюстрирует необходимость дальнейшего определения рамок свободы мысли и более четкого разъяснения ее защиты, особенно с учетом абсолютного характера этого права. Например, при каких обстоятельствах неприкосновенность частной жизни и неприкосновенность мыслительной деятельности предусматривают абсолютную защиту в рамках права на свободу мысли? И когда достаточно было бы квалифицированной защиты в рамках права на неприкосновенность частной жизни18?

предусмотренными в пункте 2 настоящей статьи правами налагает особые обязанности и особую ответственность. Оно может быть, следовательно, сопряжено с некоторыми ограничениями, которые, однако, должны быть установлены законом и являться необходимыми: a) для уважения прав и репутации других лиц; b) для охраны государственной безопасности, общественного порядка, здоровья или нравственности населения. 18 Научная литература предлагает ряд критериев, которые помогают различать ситуации, требующие абсолютной и ограниченной защиты в отношении свободы мысли и неприкосновенности частной жизни соответственно. Один из критериев учитывает ментальные последствия вмешательства (главным образом с точки зрения их «тяжести» и «значимости») наряду с другими релевантными факторами, такими как значение личной заинтересованности в неразглашении определенных типов ментального содержания (например, сексуальная ориентация, политические взгляды, религиозные убеждения) или метод вмешательства, посредством которого раскрывается или изменяется ментальное состояние человека (например, индоктринация или манипулирование).

11 Кроме того, свободу мысли следует рассматривать в контексте свободы совести и свободы религии или убеждений. Совесть, как «внутренний суд»19, позволяет нам на самом базовом уровне свободно решать, что является правильным, а что неправильным. При этом так происходит только в том случае, если она основана на независимом мышлении, то есть автономия каждого человека в формировании своих мыслей не подвергается неоправданному вмешательству. Точно так же имеется риск того, что приверженность любой религии или системе взглядов может по своей природе быть принудительной в отсутствие свободы мысли. Процесс зарождения мысли происходит не в вакууме, а во взаимодействии с другими людьми, пространствами и информацией, где важную роль играют сообщества. Это значит, что существует значимое пересечение с правами, закрепленными в Статье 19 «О свободе мнений и их свободном выражении»20. Мысль и ее выражение в своем взаимодействии «образуют неразрывный замкнутый круг»21. При этом они не идентичны и пользуются разной защитой в рамках международного права в области прав человека. Мысль — от стимула до результата — относится к понятию мыслительной

Уровень контроля над собственными мыслями после вмешательства также имеет значение, как и то, подрывает ли этот метод такой контроль или позволяет обойти его. Другой критерий рассматривает характеристики пострадавшего с точки зрения уязвимости; особенно уязвимы дети, пожилые люди, люди с психическими расстройствами, лица, лишенные свободы или находящиеся в иных условиях институционального контроля. В этом смысле важны различия в уровне власти, в том числе в ситуациях на рабочем месте. Еще одним критерием является контекст, в котором произошло вмешательство, что требует оценки в каждом конкретном случае. См. Sjors Ligthart and Naomi van de Pol, Freedom of Thought: Absolute Protection of Mental Privacy and Mental Integrity? Considering the Case of Neurotechnology in Criminal Justice [Свобода мысли: абсолютная защита ментальной неприкосновенности и конфиденциальности ментальной информации? Нейротехнологии в уголовном правосудии], in Patrick O’Callaghan and Bethany Shiner (eds.), The Cambridge Handbook of the Right to Freedom of Thought, (Cambridge: Cambridge University Press, 2025). 19 Sofie Møller, Kant’s Tribunal of Reason, Legal Metaphor and Normativity in the Critique of Pure Reason [Кантовский суд разума, правовая метафора и нормативность в «Критике чистого разума»], (Cambridge: Cambridge University Press, 2020), Chapter 6 - Moral Conscience as the Practical Inner Tribunal [Совесть как действенный внутренний суд] pp. 96-112. 20 К другим релевантным правам относятся следующие: право каждого человека на пользование наивысшим достижимым уровнем физического и психического здоровья (Статья 12 Международного пакта об экономических, социальных и культурных правах (МПЭСКП)); право каждого человека на образование — в том числе в том смысле, что «образование должно быть направлено на всестороннее развитие личности и чувства собственного достоинства» (Статья 13 МПЭСКП); право участвовать в культурной жизни и пользоваться плодами научного прогресса и его применения; право на защиту моральных и материальных интересов, вытекающих из любого научного, литературного или художественного произведения, автором которого он является, или государства, обязующиеся уважать свободу, необходимую для научных исследований и творческой деятельности (Статья 15 МПЭСКП); или запрет принуждать кого-либо к членству в ассоциации (Статья 20.2 ВДПЧ). 21 Ахмед Шахид, Доклад Специального докладчика, п. 18.

12 деятельности, тогда как мнение можно рассматривать как один из ее предварительных результатов22.

«<…> человек развивается и добивается успеха в процессе взаимодействия с другими людьми и в благоприятных с материальной и культурной точек зрения условиях, <…> независимость носит не только индивидуальный характер, она зависит от отношений, поскольку возникает в результате взаимодействия с сообществом и на основе чувства принадлежности к нему». — Проект рекомендации об этических аспектах нейротехнологий, ЮНЕСКО, 9 апреля 2025 г., пп. 16 и 44.

В основополагающем докладе 2021 года (первом в рамках системы ООН содержательном комментарии о праве на свободу мысли) Специальный докладчик ООН по вопросу о свободе религии или убеждений Ахмед Шахид рассматривает четыре предлагаемых атрибута этого права: y свобода не раскрывать свои мысли; y свобода от наказания за свои мысли, реальные или предполагаемые; y защита от недопустимого изменения другими своих мыслей; y позитивное обязательство государств создавать условия, благоприятствующие осуществлению свободы мысли.

В то время как первые два пункта являются более доступными для понимания, защита от недопустимого изменения мысли обычно подразумевает запрет неправомерного вмешательства в «ментальную автономию», т. е. отсутствие принуждения и изменения чьего-либо мышления посредством воздействия на мозг и манипулирования.

22 Там же, п. 21; см. также Christoph Bublitz, ‘The Mind and Conscience are the Person’s Most Sacred Possessions’: The Origins of Freedom of Thought in the Universal Declaration of Human Rights and the International Covenant on Civil and political Rights [Разум и совесть — священные достояния человека. Истоки свободы мысли во Всеобщей декларации прав человека и Международном пакте о гражданских и политических правах], in Patrick O’Callaghan and Bethany Shiner (eds.), The Cambridge Handbook of the Right to Freedom of Thought, (Cambridge: Cambridge University Press, 2025

13 В то же время свобода мысли не гарантирует защиту от влияния мыслей других людей или от процессов убеждения в повседневной жизни. Специальный докладчик также предлагает среди прочих факторов критерии для выявления незаконных форм манипуляции, которые необходимо оценивать в каждом конкретном случае: y согласие (добровольное и осознанное, полученное от лица, способного его дать); y сокрытие и запутывание (если «разумный человек» в состоянии понять, что на него оказывается влияние); y асимметричность властных полномочий между субъектом, оказывающим влияние, и носителем права и то, как она использовалась; y вред как цель или результат.

Четвертый атрибут — обязанность создавать условия, благоприятствующие осуществлению свободы мысли — связан с другими правами, включая право на доступ к информации, коммуникации и образованию23.

«Нам нужна свобода мысли, чтобы бороться с изменением климата, расизмом и глобальной бедностью, а также чтобы влюбляться, смеяться и мечтать. Право на свободу мысли является индивидуальным правом, но оно имеет решающее значение для культурной, научной, политической и эмоциональной жизни наших обществ. Свобода мысли дает нам возможность думать о неприятных вещах и отгонять эти мысли, прежде чем мы начнем действовать в соответствии с ними или позволим им укорениться; она позволяет нам выбирать, как мы будем вести себя по отношению к другим, адаптировать нашу речь в зависимости от контекста и аудитории и быть самими собой. Свобода мысли позволяет нам представлять себе новое будущее, не доказывая его сначала, она сохраняет нашу динамичность и склонность к приключениям, она обеспечивает

23 Ахмед Шахид, Доклад Специального докладчика, пп. 25–47.

14 нам безопасность и прежде всего позволяет нам оставаться людьми». — Susie Alegre, Freedom to Think: Protecting a Fundamental Human Right in the Digital Age [Свобода мысли: защита одного из основных прав человека в цифровую эпоху], (London: Atlantic Books, 2022), Introduction.

15 2. Об искусственном интеллекте

В международном праве нет общепринятого определения ИИ. В Законе Европейского союза (ЕС) об искусственном интеллекте24 «система ИИ» определена как «машинная система, предназначенная для работы с различными уровнями автономии, которая может проявлять адаптивность после развертывания и которая для достижения явных или неявных делает выводы на основе входных данных о том, как формировать выходные данные, включая прогнозы, контент, рекомендации и решения, которые могут воздействовать на физическую или виртуальную среду»25. Аналогичное определение содержится в Конвенции Совета Европы об искусственном интеллекте и правах человека, демократии и верховенстве права26.

В основе ИИ лежат алгоритмы, реализованные в программном коде27, которые обрабатывают наборы данных путем сбора и преобразования исходных данных для формирования выходного результата28. В отличие от алгоритма, где логика принятия решений заранее задана, ИИ «принимает решения» на основе анализа данных29. Он выявляет закономерности в данных, «обучается» на них и делает прогнозы, которые затем может адаптировать по мере получения новых данных30.

Потенциальные сферы применения ИИ практически не ограничены, и его последствия для жизни людей могут быть самыми разными.

24 Закон Европейского союза (ЕС) 2024/1689 об искусственном интеллекте, официальный журнал, в редакции от 13 июня 2024 г. (на англ. языке). 25 Там же, Ст. 3 (1). 26 Рамочная конвенция об искусственном интеллекте и правах человека, демократии и верховенстве права, Совет Европы, принята 5 сентября 2024 г. (на англ. языке). 27 Алгоритмы — это набор инструкций, направленных на решение конкретной проблемы. Процессы, на базе которых они работают, являются сложными и разнообразными. См., например, Andrew Williams, What Is an Algorithm? Defining And Applying Algorithms [Что такое алгоритм? Определение и применение алгоритмов], Forbes, 12 January 2024 28 Специальный докладчик ООН по вопросам поощрения и защиты права на свободу мнений и их свободное выражение Дэвид Кей, A/73/348, 29 августа 2018 г. 29 Kaya Ismail, AI vs. Algorithms: What’s the Difference? [Искусственный интеллект и алгоритмы: в чем разница?], CMSWire, 26 October 2016. 30 Office of Communications, College of Education, Traditional AI vs. Generative AI: What’s the Difference? [Традиционный ИИ и генеративный ИИ: в чем различие?], University of Illinois Urbana-Campaign, 11 November 2024

16 Искусственный интеллект работает с наборами данных, которые отражают социальные реалии и персональные данные, в том числе в таких областях, как здравоохранение, занятость, банковская сфера, торговля и правоохранительная деятельность. Например, в здравоохранении ИИ способен анализировать наборы медицинских данных для прогнозирования результатов лечения, на основе которых принимаются медицинские решения. ИИ также используется для анализа больших наборов данных о покупательском поведении онлайн и выявления индивидуальных предпочтений. Он может сопоставить эту информацию с персональными и контекстными характеристиками (такими как возраст, географическое положение, пол, прошлые покупки и покупательское поведение), для того чтобы формировать детализированные пользовательские профили. Компании используют такие профили для рыночной сегментации, что позволяет им предлагать людям персонализированные продукты или услуги с целью увеличения продаж или роста вовлеченности. Вовлеченность позволяет собирать новые пользовательские данные.

Несмотря на то что пользователи в той или иной степени осознают, что их данные используются, а на их выбор оказывают влияние, эти процессы все равно вызывают вопросы о свободе мысли и потенциальных возможностях для манипуляций. Вместе с тем у пользователей недостаточно информации для того, чтобы участвовать в обсуждении того, как новые технологии можно использовать в общественных интересах.

Генеративный ИИ

Генеративный ИИ (GenAI) — это новое поколение разработок в области искусственного интеллекта. Это искусственный интеллект, который «создает» контент, и используется главным образом при реагировании на запросы, предоставляемые через интерфейсы на естественном языке31. Классические системы ИИ выдают результаты на основе имеющегося контента, тогда как GenAI генерирует новый контент

31 Fengchun Miao, Wayne Holmes, Guidance for generative AI in education and research [Руководство по генеративному ИИ в образовании и исследованиях], (Paris: UNESCO, 2023)

17 на основе существующего32. Это может быть текст, изображение, видео, музыка и даже программный код. Генеративный ИИ обучается на огромных наборах данных. Для генерации ответов он проводит сложный анализ закономерностей и взаимосвязей данных, таких как последовательность слов или расположение пикселей33. Он разрабатывался и функционирует на основе так называемых больших языковых моделей и технологий глубокого обучения34, которые разрабатывались и совершенствовались на протяжении нескольких лет, прежде чем ChatGPT стал общедоступным и все получили возможность экспериментировать с ним или использовать его для работы.

После того как компания OpenAI открыла доступ к ChatGPT, своей модели генеративного ИИ, обученной на данных из Интернета, эта программа опередила все аналогичные продукты по темпам роста масштабов ее распространения. Это привело к росту конкуренции среди крупных технологических компаний в сфере разработки инструментов искусственного интеллекта и их интеграции в различные продукты и платформы35. Именно из-за их быстрого внедрения наблюдается стремительный рост контента, созданного с помощью ИИ, который, дополняя контент, созданный человеком, меняет характер данных в Интернете и, как следствие, доступные знания36.

Один из вопросов, которые вызывают беспокойство, в том числе в отрасли, связан с тем, что, как показали исследования, при многократном обучении на искусственно сгенерированных данных в отличие от данных, сгенерированных человеком, происходит коллапс модели генеративного ИИ. Тем не менее эта ситуация может измениться с появлением новых технологических достижений37.

32 Office of Communications, College of Education, Traditional AI vs. Generative AI: What’s the Difference? [Традиционный ИИ и генеративный ИИ: в чем различие?] 33 Miao and Holmes, Guidance for generative AI in education and research. [Руководство по генеративному ИИ в образовании и исследованиях], p. 8 34 Определение большой языковой модели в Кембриджском онлайн-словаре английского языка. 35 Примеры моделей GenAI: Claude (Anthropic), Llama (Meta), Gemini (Google), Le Chat (Mistral) и другие. Основные разработки проводятся крупными компаниями, при этом не только технологическими гигантами. 36 См. Jason Koebler, Project Analyzing Human Language Usage Shuts Down Because ‘Generative AI Has Polluted the Data [Проект по анализу использования человеческого языка закрыт, потому что генеративный ИИ загрязнил данные]. 404media, 19 September 2024. 37 Ilia Shumailov, Zakhar Shumaylov, et al., AI models collapse when trained on recursively generated data [Коллапс ИИ-моделей при обучении на рекурсивно сгенерированных данных]., Nature, 631, 24 July

18  «Коллапс модели — это дегенеративный процесс, влияющий на поколения обученных генеративных моделей, при котором генерируемые ими данные в конечном итоге загрязняют обучающий набор следующего поколения. При обучении на загрязненных данных они неправильно воспринимают реальность». — Ilia Shumailov, Zakhar Shumaylov, et al., AI models collapse when trained on recursively generated data [Коллапс ИИ-моделей при обучении на рекурсивно сгенерированных данных], Nature, 631, 24 July 2024, р. 755-759

Китайская модель генеративного ИИ DeepSeek, которая появилась в начале 2025 года, обеспечивает высокую техническую производительность при существенно более низких издержках, в частности, с точки зрения воздействия на окружающую среду. DeepSeek имеет открытый исходный код, что позволяет загружать, копировать и использовать его без значительных затрат на создание модели с нуля38. Это позволило сделать новые научные разработки доступными для всех39. В то же время его появление вызвало опасения относительно прав, связанных с неприкосновенностью частной жизни и цензурой40. Ряд стран ЕС запретили его использование в связи с рисками в области защиты данных41. Влияние DeepSeek на конкуренцию в отрасли и распространение моделей генеративного ИИ еще не проявилось в полной мере42.

2024, pр. 755-759. 38 Charlotte Edmond, What is open-source AI and how could DeepSeek change the industry [Что такое ИИ с открытым исходным кодом, и как DeepSeek может изменить отрасль], World Economic Forum, 5 February 2025. 39 Alex He, DeepSeek and China’s AI Innovation in US-China Tech Competition [DeepSeek и китайские инновации в области ИИ в контексте технологической конкуренции между США и Китаем], Centre for International Governance Innovation, 11 April 2025. 40 Robert Booth and Dan Milmo, Experts urge caution over use of Chinese AI DeepSeek [Эксперты призывают к осторожности при использовании китайского ИИ DeepSeek], The Guardian, 28 January 2025. 41 Hakan Ersen and Miranda Murray, DeepSeek faces ban from Apple, Google app stores in Germany [В Германии DeepSeek может быть запрещен в магазинах приложений Apple и Google], Reuters, 27 June 2025. 42 Hamilton Mann, Seek Deeper On DeepSeek For Artificial Integrity Over Intelligence [DeepSeek: в поисках прозрачности, а не интеллекта], Forbes, 28 January 2025; Robert Booth and Dan Milmo, Chinese AI chatbot DeepSeek censors itself in realtime, users report [Китайский чат-бот с ИИ DeepSeek цензурирует себя в режиме реального времени, как сообщают пользователи], The Guardian, 28

19 Крупные технологические компании также говорят о конкретных шагах на пути к следующему этапу развития искусственного интеллекта — общему искусственному интеллекту (AGI), при этом неизвестно, насколько они действительно приблизились к его созданию43. Ожидается, что AGI будет автономно решать задачи и обладать самостоятельностью на уровне человека44. Это будет иметь последствия для свободы мысли, поскольку такие системы могут как оказывать влияние на осуществление этого права, поддерживать его или подрывать его реализацию. В этой связи необходимо, чтобы правительства, разработчики и регулирующие органы гарантировали, что создание и управление общим искусственным интеллектом будет соответствовать принципам прав человека.

Влияние корпораций в эпоху ИИ

Экономические и нормативно-правовые условия, в которых работали новые технологии в последние десятилетия, оказали значительное влияние на демократию и права человека. Использование ИИ крупнейшими технологическими корпорациями (BigTech), которым принадлежат ведущие интернет-платформы, включая поисковые системы и социальные сети, существенно изменило пространство для общественного обсуждения. Такая трансформация повлияла на демократическую дискуссию и на то, как люди формируют свое мнение, делают выбор и принимают решения, что напрямую повлияло на свободу мысли45. На фоне того, как корпорации и правительства

January 2025; Cade Metz, How Did DeepSeek Build Its A.I. With Less Money? [Как DeepSeek создал свой ИИ дешевле], The New York Times, 12 February 2025. 43 Kate Brennan, Amba Kak and Dr. Sarah Myers West, Artificial Power: 2025 Landscape Report [Способности ИИ: обзор за 2025 год], AI Now Institute, 3 June 2025 44 Tom Allen, Real-world agentic AI is ‘complex’ cautions Google’s Demis Hassabis [«ИИ, обладающий самостоятельностью, является сложным инструментом», — предупреждает Демис Хассабис из Google], Computing, 17 March 2025; Will Knight, Google’s AI Boss Says Gemini’s New Abilities Point the Way to AGI [«Руководитель направления по разработке ИИ в компании Google говорит, что новые возможности Gemini указывают путь к общему искусственному интеллекту»], Wired, 28 May 2025; Robert Booth, Meta to announce $15bn investment in bid to achieve computerised ‘superintelligence’ [«Meta объявит об инвестициях в размере 15 млрд долларов в попытке создать компьютеризированный «сверхинтеллект»], The Guardian, 11 June 2025. 45 Подробнее см. Shoshana Zuboff, The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power [Эпоха надзорного капитализма: борьба за будущее человечества на новом рубеже власти], (New York, Public Affairs, 2019). См. также Представитель ОБСЕ по вопросам свободы СМИ об искусственном интеллекте и свободе выражения мнений.

20 получают все более широкий доступ к большим объемам данных о поведении и предпочтениях людей, расширяются и их возможности по оказанию влияния на мысли людей и даже манипулирования ими. Cистемы ИИ (за исключением лишь некоторых), независимо от того, какой используется источник финансирования (частный или государственный), сегодня не регулируются на общенациональном уровне нормативными документами, основанными на правах человека и предусматривающими предварительную оценку воздействия или их ответственность в будущем.

В то же время происходит стремительное развитие нейротехнологий, которые благодаря интеграции с ИИ становятся все более сложными. Поскольку эти технологии затрагивают работу мозга и нейронных цепей, они позволяют извлекать информацию о мыслях человека и оказывать влияние на них. Коммерческое применение устройств, которые собирают нейронные данные, открывает новые возможности для профилирования и слежки. Это имеет самое непосредственное отношение к свободе мысли. При том что такие устройства предлагают потенциально революционные решения, особенно в медицине, считается, что они могут открыть беспрецедентные возможности для проникновения во внутреннюю сферу, которая долгое время считалась неприкосновенной — неприкосновенность разума. При использовании в коммерческих целях эти технологии способны поддерживать и укреплять силу и изощренность влияния крупных онлайн-платформ на индивидуальный выбор каждого человека, в связи с чем возникают новые проблемы в области этики и прав человека46.

Технологии на основе искусственного интеллекта преимущественно разрабатываются и внедряются частными компаниями, которые действуют в коммерческой системе координат, где получение прибыли необходимо для обеспечения устойчивости деятельности. В результате эти технологии в значительной степени формируются вне демократического контроля и традиционного «общественного договора» между государством и гражданами, несмотря на их существенное влияние на сферы, представляющие общественный интерес. Это несоответствие означает, что ныне действующие органы

46 См., например, Nita A. Farahany, The Battle for Your Brain. Defending the Right to Think Freely in the Age of Neurotechnology [Борьба за ваш мозг. Защита права на свободу мысли в эпоху нейротехнологий], (New York: St Martin’s Griffin, 2023).

21 управления не могут надлежащим образом контролировать широкое влияние этих технологий на общество. Кроме того, это означает, что коммерческие приоритеты этих частных субъектов могут совпадать или не совпадать с более широкими целями общественного благополучия, создавая проблемы в процессе обеспечения того, чтобы разработка ИИ всегда служила общему благу.

С учетом значительного влияния ИИ на демократические институты, права человека и взаимодействие между людьми, необходимо ответить на вопросы о том, кому, на каких условиях, в соответствии с какими нормами и с какой целью следует разрабатывать и внедрять такие технологии. Помимо преобладающих технологических гигантов, в сфере искусственного интеллекта есть множество стартапов и других конкурентов47. Отраслевые, и особенно этические, стандарты только формируются и на практике часто зависят от экономического веса или деловой культуры отдельных компаний, а также от условий, в которых они работают.

В условиях «революции в сфере ИИ» государства должны взять на себя обязательства по защите прав и основных свобод человека. В то же время им следует создавать равные условия в этой сфере, поощрять честную конкуренцию между всеми участниками и не допускать снижения стандартов в борьбе компаний за лидерство. Государства обязаны создавать и защищать благоприятную среду для обеспечения свободы мысли и всех других прав человека, тщательно отслеживая влияние крупнейших технологических компаний, для того чтобы гарантировать подотчетность и соблюдение общественных интересов48.

47 Rashi Shrivastara (ed.), Forbes 2025 AI 50 List - Top Artificial Intelligence Companies Ranked [Список Forbes 2025 AI 50 — рейтинг ведущих компаний в области искусственного интеллекта], Forbes, 10 April 2025; Kate Brennan et al, Artificial Power: 2025 Landscape Report [Способности ИИ: обзор за 2025 год]. 48 К другим важным сферам, которые затрагивают свободу мысли, но не рассматриваются здесь, относится использование ИИ в целях наблюдения, особенно в целях национальной безопасности или обороны, на границах и при миграционном контроле, во время содержания под стражей, в военных целях или в условиях авторитарных режимов. См. также Digital technologies at borders: A threat to people on the move [Цифровые технологии на границах: угроза для перемещающихся лиц], UN OHCHR, 9 October 2023.

22 3. Алгоритмическое мышление и его последствия для прав человека

ИИ, предвзятость и мышление

Результаты работы зависят от целей и возможностей системы ИИ, качества данных и способа внедрения. Отдельная система ИИ будет отражать как предвзятость и «слепые зоны» тех, кто участвовал в ее разработке, так и те, которые заложены в наборах данных, которые использовались для ее создания и обучения. Такая система может быть развернута для целей, отличных от тех, для которых она создавалась и тестировалась, при этом некоторые проблемы могут присутствовать в самих алгоритмах машинного обучения49. Например, в областях, которые предусматривают социальное взаимодействие (банковское обслуживание, социальная защита, жилье, занятость), элементы предвзятости в наборах данных имеют особенно негативные последствия, поскольку системы ИИ способны распространять и потенциально усугублять такую предвзятость50. Кроме того, системы ИИ зачастую отражают ценности и реалии Глобального Севера, поэтому могут предоставить искаженную информацию о других регионах. Такие последствия являются рисками с точки зрения прав человека, в том числе права на свободу мысли. В то же время важно продолжать усилия по борьбе с предвзятостью, в частности, путем поощрения разнообразия

49 Bias in Algorithms: Artificial Intelligence and Discrimination, EU Agency for Fundamental Rights (FRA) [Предвзятость алгоритмов, искусственный интеллект и дискриминация, Агентство ЕС по основным правам], (Vienna, FRA, 2022). 50 Например, на алгоритмы прогнозирования преступности может влиять ряд факторов, в том числе, если набор данных основан на ранее зарегистрированных показателях. Эти показатели, в свою очередь, могут быть подвержены влиянию предвзятого отношения к конкретным меньшинствам, проживающим в конкретных районах, которые, таким образом, чаще фигурируют в наборах данных как районы с высоким уровнем преступности, чем это было бы в контексте реальных (зарегистрированных и незарегистрированных) показателей преступности. Таким образом, алгоритмические прогнозы могут быть предвзятыми по отношению к этим меньшинствам, а их районы проживания могут столкнуться с чрезмерным полицейским контролем. Подробное объяснение предвзятости в системах прогнозирования преступности с использованием ИИ см. в FRA, Bias in Algorithms [Предвзятость алгоритмов], p. 31. Закон ЕС об ИИ запрещает использование ряда систем прогнозирования преступности с использованием ИИ, если они основаны исключительно на профилировании или личных характеристиках, за исключением случаев, когда они используются для дополнения оценок, сделанных человеком на основе объективных, проверяемых фактов, непосредственно связанных с преступной деятельностью (см. также Главу 6 далее).

23 на протяжении всего жизненного цикла ИИ, устранения технических проблем, а в ряде случаев отказа от использования отдельных типов ИИ, если риски слишком высоки, в рамках усовершенствования мышления, защиты разнообразия и обеспечения доступа к разным точкам зрения.

«Цикл обратной связи возникает, когда предсказания, сделанные системой, влияют на данные, используемые для обновления этой системы. Это значит, что алгоритмы воздействуют на алгоритмы, поскольку их рекомендации и предсказания влияют на реальность на местах. Затем эта реальность становится основой для сбора данных, предназначенных для обновления алгоритмов, поэтому результаты, которые генерирует система, становятся входными данными для этой же системы. Таким образом, любая предвзятость алгоритмов может со временем усиливаться и усугубляться». — EU Agency for Fundamental Rights, Bias in Algorithms: Artificial Intelligence and Discrimination [Предвзятость алгоритмов, искусственный интеллект и дискриминация], (Vienna, FRA, 2022), p. 8.

Когда принятие решений и взаимодействие между людьми заменяются системами искусственного интеллекта или формируется чрезмерная зависимость от таких систем, искажаются условия для принятия обоснованных решений в связи с существующими или сгенерированными системой элементами неравенства и неточностями, которые эта система в дальнейшем усиливает. В тех случаях, когда предвзятый контент в социальных сетях или профилирование с помощью ИИ оказывают влияние на политическую и другую общественную деятельность, чаще всего в первую очередь страдают лица с конкретными защищенными характеристиками или моделями поведения51, а в конечном итоге это влияет на все общество.

51 Mehnaz Rafi, When AI plays favourites: How algorithmic bias shapes the hiring process [Когда ИИ проявляет симпатии: как алгоритмическая предвзятость влияет на процесс найма] The Conversation, 14 October 2024; см. также ICO considers uses of neurotechnology in employment in the UK [ICO рассматривает использование нейротехнологий в сфере занятости в Великобритании], Withers, 31 July 2023.

24 Отбор данных с целью устранения, а не сокращения, предвзятости, учитывая сложность и масштаб наборов данных, представляется сложной задачей. Даже в случае принятия мер по устранению предвзятости из инструментов ИИ с лучшими намерениями ошибки в этом процессе сами по себе могут приводить к (дальнейшим) нарушениям прав человека. Например, социальные сети уже широко применяют ИИ для модерации — фильтрации, выделения, удаления или ограничения распространения незаконного и оскорбительного контента. Пытаясь разобраться в сложностях человеческого общения на этих платформах, ИИ часто не понимает контекст и оттенки значения (например, сатиру), что ограничивает его возможности по модерации общения между людьми в целом, не говоря уже о сложностях, связанных с предвзятостью52. Кроме того, значение часто зависит от контекста, общего понимания и языка, а также может меняться со временем. При модерации с помощью ИИ в социальных сетях маргинализированные сообщества могут непреднамеренно подвергаться цензуре за использование определенного языка, в частности, защищенной контрречи, противостоящей вредным и ненавистническим высказываниям или оспаривающей их53. В то же время контроля со стороны ИИ может избежать контент, в котором используется «закодированный» язык. Такие проблемы более ярко проявляются применительно к контенту на других языках, кроме английского, поскольку компании вкладывают меньше ресурсов в модерацию и проверку фактов на таких языках54. Усилия по выявлению предвзятости в данных, преимущественно на основе ИИ, должны предусматривать привлечение разносторонне образованных людей с самого начала жизненного цикла систем ИИ.

Вызывает беспокойство тот факт, что сегодня социальные сети пересматривают свою политику в отношении модерации контента и защиты, связанной с доверием и безопасностью, в области предотвращения ненависти, преследований и распространения

52 Представитель ОБСЕ по вопросам свободы СМИ. В фокусе – искусственный интеллект и свобода слова: рекомендации по разработке политики, 20 января 2022 г. 53 FRA, Bias in Algorithms: Artificial Intelligence and Discrimination. [АОП ЕС, Предвзятость в алгоритмах: искусственный интеллект и дискриминация]. 54 Content Moderation in a New Era for AI and Automation [Модерация контента в новую эпоху ИИ и автоматизации], Meta Oversight Board, September 2024; см. также Представитель ОБСЕ по вопросам свободы СМИ. В фокусе – искусственный интеллект и свобода слова: рекомендации по разработке политики.

25 недостоверного контента. Они существенно сократили число сотрудников, которые обеспечивали эффективную модерацию55, ухудшив свою работу по борьбе с вредоносным контентом56. Такой контент наносит маргинализированным сообществам значительный ущерб (из-за выражения ненависти в сети они могут столкнуться с угрозами в реальной жизни), поэтому меры по искоренению предвзятости необходимо усиливать57.

Одной из важных особенностей цифровой среды является доминирование английского языка. Такая ситуация не отражает разнообразие языков, на которых говорят в мире, и усугубляет цифровое неравенство с точки зрения доступа к Интернету для людей, которые не говорят на английском или других распространенных языках58. Генеративный ИИ способствует усугублению этой проблемы, поскольку он обучается на ограниченном количестве языков и, следовательно, наполняет информационную среду преимущественно контентом на этих языках. Эта тенденция угрожает языковому разнообразию и, по-видимому, не изменится без значительных инвестиций со стороны компаний59.

Родной язык важен не только для культуры и идентичности: он играет существенную роль в том, как люди организуют свои мысли в forum internum (внутреннее измерение убеждений и взглядов человека) и как формируется их мировоззрение. Позитивным достижением ИИ в этой 55 David Evan Harris and Aaron Shull, Generative AI, Democracy and Human Rights, Center for International Governance Innovation, Policy Brief No. 12, February 2025 [Генеративный искусственный интеллект, демократия и права человека, Центр инноваций в области международного управления]. 56 Joel Kaplan, More Speech and Fewer Mistakes [Больше свободы слова и меньше ошибок], Meta, 7 January 2025; Clare Duffy, Calling women ‘household objects’ now permitted on Facebook after Meta updates its guidelines [Теперь в Facebook можно называть женщин «предметами домашнего обихода» после обновления правил Meta], cnn.com, 8 January 2025; Dia Kayyali, Meta’s Content Moderation Changes are Going to Have a Real World Impact. It’s Not Going to be Good [Изменения в модерации контента Meta окажут реальное влияние на мир. Оно не будет хорошим], TechPolicy.press, 9 January 2025, Adrian Kopps, Four key policy changes of X under Musk [Четыре ключевых изменения политики X при Маске], Digital Society Blog, Alexander von Humboldt Institut für Internet und Gesellschaft, 28 October 2024. 57 Язык ненависти, веб-страница ООН; X’s design and policy choices created fertile ground for inflammatory, racist narratives targeting Muslims and migrants following Southport attack [Дизайн и политические решения X — благодатная почва для подстрекательских расистских нарративов, направленных против мусульман и мигрантов после нападения в Саутпорте], Amnesty International, 6 August 2025. 58 Internet Access: UNESCO and ICANN join forces to improve linguistic diversity online [Доступ в Интернет: ЮНЕСКО и ICANN объединяют усилия для улучшения языкового разнообразия в Интернете], UNESCO, 27 February 2025. 59 Viorica Marian, AI could extinguish languages and ways of thinking [Искусственный интеллект может уничтожить языки и способы мышления], The Washington Post, 19 April 2023.

26 области — наряду с другими примерами вклада ИИ в общественное благо60 — стало его успешное использование для документирования и сохранения исчезающих языков, а также возрождения утраченных61. Ключевым здесь является наличие (или отсутствие) этики и понимания прав человека, которые влияют на разработку, внедрение и использование ИИ.

Без надлежащего обеспечения разнообразия и представленности, в частности, путем преодоления цифрового неравенства, будущее систем ИИ, при масштабном использовании которых воспроизводятся многочисленные дисбалансы власти, может привести к исчезновению мировоззрения, не представленного в системах ИИ.

Человеческий надзор, прозрачность и подотчетность

С точки зрения обеспечения соблюдения прав человека особенно важное значение имеет уровень вмешательства человека в процесс принятия решений. Полностью автоматизированное принятие решений не предполагает участия человека (в том числе применения человеческой интуиции и оценочных суждений) в процессе формирования системой ИИ конечного результата. Кроме того, сложность систем генеративного ИИ затрудняет и может сделать невозможным понимание или объяснение того, как был получен тот или иной результат. Еще одна трудность во взаимодействии человека и машины — это «автоматизационная предвзятость». По данным исследований, человек, как правило, больше доверяет машинам, чем людям, и, следовательно, с большей готовностью воспринимает результаты, сгенерированные системой ИИ62. Свобода мысли да и само значимое участие человека подрываются в ситуации, когда становится сложнее проверять и ставить под сомнение сгенерированные результаты, особенно в

60 См. ООН AI for Good [ИИ во благо] и Stéphanie Bascou, « IA d’intérêt public » : cette ONG veut créer un label éthique, similaire au « Commerce équitable », et facilement identifiable pour les consommateurs [ИИ в интересах общества: эта НПО хочет создать этическую маркировку, аналогичную «справедливой торговле» и легко идентифицируемую для потребителей], 01.net, 5 October 2024. 61 AI: The Unexpected Hero in the Battle to Save Dying Languages [Искусственный интеллект: неожиданный герой в битве за спасение вымирающих языков], apolitical website, 20 October 2024. 62 Chris Baraniuk, Why we place too much trust in machines [Почему мы слишком доверяем машинам], BBC, 20 October 2021.

27 ответственных ситуациях, даже если человек участвует в принятии решений о том, как будут применяться эти результаты или какие действия будут предприниматься на их основании63. Степень риска зависит от области применения ИИ. Например, врачи должны полностью понимать систему ИИ, которую они используют, и уметь преодолевать предвзятость автоматизации, систематически оценивая сгенерированные системой ИИ результаты по каждому пациенту из-за очень высокого риска негативных последствий для здоровья64.

Зачастую возможность проверить и оспорить результаты еще больше затруднена в связи утверждениями о праве интеллектуальной собственности в отношении кода, параметров и/или иных внутренних механизмов ИИ. Эти аргументы используются для того, чтобы не раскрывать способ получения того или иного результата. В отсутствие прозрачности и возможности контроля над информационной средой (например, того, какой контент рекомендательные системы социальных платформ отображают в пользовательских лентах) принятие обоснованных решений и формирование реального понимания своего окружения еще больше затрудняется.

«Понимаемость — это то, насколько любая система может быть понятна любому человеку. Если предсказуемость системы связана с вопросом «Что будет делать система?», то понятность связана с вопросом «Почему она это делает?» — Arthur Holland Michel, The Black Box, Unlocked [Черный ящик: разгадка], UNIDIR, 22 September 2020, p. 9.

Тот факт, что понять, как ИИ принимает решения, затрагивающие права человека, не представляется возможным (из-за чрезмерной сложности системы или потому, что информация о ее работе и средствах ее контроля отсутствует в открытом доступе) вызывает серьезные вопросы 63 Подробнее о предсказуемости и понятности см. Arthur Holland Michel, The Black Box, Unlocked [Черный ящик: разгадка], UNIDIR, 22 September 2020. 64 The application of artificial intelligence in healthcare and its impact on the “patient-doctor” relationship [Применение искусственного интеллекта в здравоохранении и его влияние на отношения между пациентом и врачом], Council of Europe, Steering Committee for Human Rights in the Fields of Biomedicine and Health (CD-BIO), September 2024, p. 20.

28 по поводу подотчетности и прозрачности, двух главных принципов надлежащего функционирования систем правосудия и демократии.

«1. Цифровые технологии преобразуют наш мир кардинальным образом. Они дают огромные потенциальные преимущества для обеспечения благополучия и развития людей и обществ и для нашей планеты. (…) 3. Мы признаем, что темпы развития и мощь новейших технологий не только открывают новые возможности для человечества, но и создают новые риски, и о некоторых из них еще не все известно. Мы признаем необходимость выявления и сокращения рисков и обеспечения контроля за технологиями со стороны человека, который осуществляется таким образом, чтобы способствовать устойчивому развитию и полному осуществлению прав человека». — Глобальный цифровой договор, приложение к Резолюции A/RES/79/1 «Пакт во имя будущего», принятой Генеральной Ассамблеей ООН 22 сентября 2024 г.

Для минимизации этих рисков нужен другой подход65 к разработке ИИ — ответственный и ориентированный на права человека, обеспечивающий регуляторный надзор и надлежащую понятность, прозрачность и подотчетность. Кроме того, значимый человеческий контроль имеет решающее значение для того, чтобы системы ИИ помогали обеспечивать наилучшие для людей результаты и не нарушали при этом их права, в том числе право на свободу мысли.

65 Recommendation on the Ethics of Artificial Intelligence [Рекомендация по вопросу об этике искусственного интеллекта], UNESCO, 23 November 2024; см. также Rumman Chowdrhury and Dhanya Lakshmi, “Your opinion doesn’t matter, anyway”: exposing technology-facilitated gender-based violence in an era of generative AI [Ваше мнение все равно не имеет значения»: разоблачение гендерного насилия с применением технологий в эпоху генеративного ИИ], (Paris: UNESCO 2023); или раздел Ресурсы на сайте организации Humane Intelligence.

29 4. Свобода мысли в изменившемся гражданском пространстве

Как новая архитектура гражданского пространства влияет на свободу мысли Подлинная свобода мнений и их выражения зависит от подлинной свободы мысли66. Как говорилось выше, мысль и мнение являются частью forum internum — частной внутренней сферы каждого человека. Это пространство, которое имеет абсолютную защиту от вмешательства в соответствии с международным правом в области прав человека. Согласно демократической теории свободная мысль формируется и развивается в ходе разговора, когда люди свободно обмениваются мнениями и делятся информацией67. В таком идеальном гражданском пространстве должна существовать возможность выражать, оспаривать и проверять все идеи и мнения, чтобы обеспечить в конечном итоге возобладание наилучших идей и истин. С возможностью такого динамичного обмена, при котором идеи могут сближаться и противостоять друг другу, связана мощная защита и поддержка свободы слова, т. е. выражения мыслей и мнений. Это имеет критическое значение для здоровой общественной дискуссии, необходимой при демократии. Общественно значимая журналистика играет ключевую роль в обеспечении демократической дискуссии, основанной на фактах, а также, среди прочего, свободы ассоциации и права на организацию. В то же время существуют и ограничения. Например, в соответствии с международным правом в области прав человека государства должны бороться с риторикой ненависти, если она выходит за определенные рамки68.

66 Sjors Ligthard, Christoph Bublitz, Thomas Douglas, Lisa Forsberg and Gerben Meynem, Rethinking the Right to Freedom of Thought: A Multidisciplinary Analysis [Переосмысление права на свободу мысли: междисциплинарный анализ] in Human Rights Law Review, 2022, 22, pp. 1-14. 67 См. также Simon McCarthy-Jones, Freethinking: Protecting Freedom of Thought Amidst the New Battle for the Mind, [Свободомыслие: защита свободы мысли на фоне новой битвы за разум] (London: Oneworld, 2023). 68 МПГПП, Статья 20: “1. Всякая пропаганда войны должна быть запрещена законом.

30 На фоне развития крупных технологических корпораций коммуникация переместилась в социальные сети, которые сегодня обеспечивают взаимодействие между людьми и выступают в роли контролеров новостных и информационных потоков. Эти платформы используют мощные алгоритмы машинного обучения для реорганизации контента такими способами, которые имеют последствия для свободы мысли. Они кардинальным образом меняют то, как распространяется информация, мнения и идеи в отличие от информационной среды, в значительной степени сформированной традиционными (общественно значимыми) СМИ69.

Рекомендательные системы на основе алгоритмов в Интернете создаются в первую очередь исходя из коммерческих соображений. Такие системы оптимизированы с целью достижения максимальной вовлеченности пользователей или роста продаж, они не ориентируются на достоверность, разнообразие или общественный интерес, в том числе на плюрализм медиа и общественно значимую журналистику70. Максимизация вовлеченности и стимулирование покупок предполагают использование моделей поведения в прошлом и индивидуального профилирования для предсказания того, с каким контентом пользователи будут взаимодействовать с наибольшей вероятностью. В результате контроль пользователей над тем, что они могут видеть, ограничивается, даже если они сохраняют автономию и могут выбирать, хотят они взаимодействовать с определенным контентом или нет. При этом они могут не осознавать, что в связи с персонализацией на основе алгоритмов контент, который они видят, отличается от того, что видят другие люди, в том числе из их ближайшего окружения.

2. Всякое выступление в пользу национальной, расовой или религиозной ненависти, представляющее собой подстрекательство к дискриминации, вражде или насилию, должно быть запрещено законом.” 69 «В отличие от традиционных алгоритмов, которые задают разработчики, алгоритмы машинного обучения «учатся» на входных данных, выявляя в них корреляции. Обученный алгоритм, или модель машинного обучения, в дальнейшем может автоматизировать решения. Например, алгоритм, обученный на данных о кликах по рекламным объялениям, способен выяснить, что женщины чаще кликают по рекламе леггинсов для занятий йогой, чем мужчины. Такая модель будет показывать больше соответствующих объявлений женщинам». См. Karen Hao, The Facebook whistleblower says its algorithms are dangerous. Here’s why [Разоблачитель из Facebook утверждает, что алгоритмы компании опасны. Вот почему], MIT Technology Review, 5 October 2021. 70 Представитель ОБСЕ по вопросу о свободе СМИ. В фокусе - искусственный интеллект и свобода слова: рекомендации по разработке политики.

31 Такая модель позволяет нескольким платформам оказывать существенное влияние на информационную экосистему каждого человека. Она способствует фрагментации новостного медиаландшафта, ослаблению независимой журналистики и потенциальному подрыву общего понимания реальности, которое долгое время определяло взаимодействие между людьми, их выбор и участие в демократических процессах71.

«Методы, с помощью которых онлайн-платформы курируют контент при помощи рекомендательных систем, недостаточно прозрачны и очень редко подвергаются общественному и/или государственному контролю. <…> Рекомендательные системы контента также могут иметь непредвиденные последствия для масштабных общественных целей и способны негативно влиять на абсолютное право на свободу мысли и мнения. Кроме того, процессы рекомендательных систем интернет-посредников, как правило, исключают возможность выбора, контроля и автономность отдельных пользователей, которые являются необходимыми условиями для обеспечения автономии личности в процессе поиска и передачи разнообразной информации и идей.<…> Существует множество доказательств того, что манипулятивный потенциал онлайн-платформ способен направлять и усиливать определенные общественные нарративы и типы дискурса по сравнению с другими. Для стран с нестабильными или деспотичными политическими

71 Представитель ОБСЕ по свободе СМИ. В фокусе - искусственный интеллект и свобода слова: рекомендации по разработке политики; в более широком плане работа Представителя ОБСЕ по свободе СМИ на тему «СМИ и крупные технологические компании»; см. также Декларацию Комитета Министров о манипулятивных возможностях алгоритмических процессов, принятую Комитетом Министров Совета Европы 13 февраля 2019 года (на англ. языке): «8. Современные инструменты машинного обучения развивают способность не только прогнозировать выбор, но и влиять на эмоции и мысли, а также изменять предполагаемый ход событий, иногда на уровне подсознания. <…> 9. Тонкие, подсознательные и персонализированные уровни алгоритмического воздействия могут оказывать существенное влияние на когнитивную автономию личности и ее право на формирование мнения и принятие независимых решений. <…> Центральные принципы [Совета Европы] – права человека, демократия и верховенство права – основываются на фундаментальной вере в равенство и достоинство всех людей как независимых моральных субъектов. <…> Комитет Министровобращает внимание на растущую угрозу для права человека формировать мнения и принимать решения независимо от автоматизированных систем, которая исходит от передовых цифровых технологий. Особое внимание следует уделить их способности использовать персональные и неперсональные данные для сортировки и микротаргетинга людей, выявления индивидуальных уязвимостей и использования точных прогнозных знаний, а также для перестройки социальной среды в целях достижения конкретных целей и преследования корыстных интересов».

32  системами эта сила убеждения, усиленная алгоритмами, может иметь катастрофические последствия в плане реализации индивидуальных прав человека. — Представитель ОБСЕ по вопросам свободы СМИ. В фокусе – искусственный интеллект и свобода слова: рекомендации по разработке политики, 20 января 2022 г. С. 77–93. Представитель ОБСЕ по вопросам свободы СМИ провел масштабную работу по изучению и разъяснению влияния ИИ на цифровой рынок идей, общественно значимые средства массовой информации, демократические процессы, свободу мнений и их выражения, а также предложил всеобъемлющие рекомендации для государств-участников. См. дополнительно Представитель ОБСЕ по вопросам свободы СМИ. В фокусе – искусственный интеллект и свобода слова. SAIFE Resource Hub.

По мере развития возможностей ИИ повышается эффективность рекламы на базе бизнес-модели, в основе которой лежит сбор данных с использованием ИИ, анализирующей индивидуальные и коллективные формы поведения и характеристики. Такая система отслеживает активность пользователей на различных сайтах и устройствах и предлагает персонализированный контент, включая новостной, с целью максимизации вовлеченности и стимулирования продаж.

С развитием социальных сетей появились новые виды контактов и коммуникации, которые без сомнения обеспечили возможность мобилизации общественного мнения по вопросам, вызывающим всеобщую озабоченность, и позволили выражать свое мнение тем, кто подвергался цензуре. В то же время, в отличие от традиционных общественных пространств, эти платформы меняют способ взаимодействия людей как друг с другом, так и с группами. Такое коммуникационное пространство предполагает использование психологических предубеждений человека, особенно в отношении «своих» и «чужих», а также потребность людей в принадлежности к какой-либо группе, для того чтобы предложить персонализированный контент в соответствии с критериями, которые, как правило, не являются публичными (т. е. речь идет о том, как настроены алгоритмы, управляющие контентом, и какую цель они преследуют). Соцсети

33 способствовали трансформации значительной части общественного пространства и способов нашего взаимодействия с ним, поддерживая при этом полную иллюзию наличия выбора72. Благодаря тонкому, но систематическому воздействию люди становятся уязвимыми к влиянию и манипулированию их мыслями и поведением, что подрывает идею самостоятельного мышления и снижает нашу субъектность73.

Доминирование крупных технологических компаний, по сути, не оставляет человеку иного выбора, кроме как принять надзорную модель и использовать социальные сети. Для многих повседневных социальных и профессиональных контактов это стало необходимостью, особенно в случае, если групповые мероприятия или другая важная информация публикуются на определенной платформе. Это оказывает влияние на свободу мысли. Поскольку люди подчиняются алгоритмическим системам компаний в плане фильтрации значительной части своего восприятия мира, они рискуют утратить контроль над своей индивидуальностью. Даже само понимание того, что за ними следят, может влиять на то, что люди думают и как они действуют, опасаясь

72 В контексте политической поляризации часто упоминается возникновение в новой информационной среде эхо-камер как результата склонности людей — а затем и реальной возможности —взаимодействовать в социальных сетях с теми, кто похож на них и чьи взгляды они разделяют. В литературе нет единого мнения по поводу эхо-камер, при этом соответствующие исследования ограничены в географическом и лингвистическом отношении, и, как правило, не опираются на данные, необходимые для надлежащего анализа. По данным масштабного совместного метаисследования политической активности, есть доказательства того, что в социальных сетях люди вступают в однородные партийные объединения. Вместе с тем ситуация намного сложнее. Авторы также подчеркивают, что, хотя социальные сети предоставляют человеку более широкий доступ к новостям, информации и идеям, чем он получает в офлайн-пространстве, разные мнения и информация в интернете воспринимаются с поляризованных позиций. Реагируя на противоположное мнение, люди не участвуют в демократической дискуссии, а ищут одобрение в онлайн-сообществе, противопоставляя «своих» и «чужих». В конечном итоге это приводит к еще более глубокому укоренению точек зрения и дальнейшей поляризации. См. Jonathan Haidt and Chris Bail (ongoing), Social Media and Political Dysfunction, A collaborative review [Социальные сети и политическая дисфункция, совместный обзор, продолжающееся исследование], New York University, Chapter 2.4. 73 Шошана Зубофф, которая предложила термин «надзорный капитализм», описывает его как новую экономическую логику, в основе которой лежит получение персональных данных с целью формирования поведения пользователей. <...> «надзорные капиталисты обнаружили, что наиболее ценные с точки зрения предсказания поведенческие данные поступают в том случае, если вмешаться в ход игры – подтолкнуть, уговорить, подстроить и направить поведение в сторону, которая принесет прибыль. Конкурентное давление привело к сдвигам, в результате которых автоматизированные машинные процессы не только познают наше поведение, но и в широких масштабах формируют наше поведение. С этой переориентацией со знания на силу уже недостаточно автоматизировать потоки информации о нас; теперь цель состоит в том, чтобы автоматизировать нас». Шошана Зубофф. Эпоха надзорного капитализма. Битва за человеческое будущее на новых рубежах власти, Издательство Института Гайдара, 2022 г. С. 14.

34 возможных последствий74. Следует отметить, что ЕС начал принимать меры по решению проблемы таргетированной рекламы в различных аспектах своей законодательной базы. На данный момент рассмотрен ряд дел, а некоторые иски находятся в процессе рассмотрения75. Некоторые из них окажут влияние на защиту автономии и субъектности, а значит и свободы мысли, в новом гражданском пространстве.

«…тот факт, что оператор социальной сети занимает доминирующее положение на рынке социальных сетей, сам по себе не исключает возможности для пользователей этой сети дать действительное согласие <...> на обработку их персональных данных этим оператором. В то же время это важный фактор при определении того, было ли такое согласие действительным и в особенности добровольным, что должен доказать сам оператор». — Пресс-релиз № 113/23, Суд Европейского союза, решение по делу C-252/2001 | Meta Platforms и другие (Общие условия использования социальных сетей), Люксембург, 4 июля 2023 г., п. 154. (на англ. языке)

Более того, в академической литературе на тему свободы мысли предполагается, что новая среда оказывает негативное влияние на ментальную автономию человека из-за: 1) слежки и использования персональных данных, содержащих очень подробную информацию об отдельных лицах или группах; 2) непрозрачности технологий, как в отношении использования ИИ для генерации и распространения контента,

74 После разоблачений Сноудена о слежке со стороны правительства люди изменили свое поведение в Интернете и исключили из поисковых запросов темы, которые, на их взгляд, могли бы привлечь к ним внимание государства. См. Jon Penney, Chilling Effects: Online Surveillance and Wikipedia Use [Негативные последствия: cлежка за пользователями и Википедия], Berkley Technology Law Journal, Vol. 31, No. 1, pp. 117-183, 27 April 2016, См. также Ахмед Шахид, Доклад Специального докладчика, п. 54. 75 Commission finds Apple and Meta in breach of the Digital Markets Act [Европейская комиссия постановила, что Apple и Meta нарушили закон «О цифровых рынках»], пресс-релиз Европейской комиссии от 23 апреля 2025 г.; см. также пресс-релиз № 116/24, решение суда по делу C-446/21 | Шремс (Передача данных широкой общественности), Суд Европейского союза, Люксембург, 4 октября 2024 г.; и пресс-релиз № 113/23, решение суда по делу C-252/2001 | Meta Platforms и другие (Общие условия использования социальной сети), Суд Европейского союза, Люксембург, 4 июля 2023 г. (на англ. языке). Аналогичный иск был рассмотрен в Великобритании в начале 2025 года. См. Dan Milmo, Meta to stop targeting UK citizen with personalised ads after settling privacy case, [Meta прекратит показывать персонализированную рекламу гражданам Великобритании после урегулирования иска о нарушении конфиденциальности]The Guardian, 22 March 2025.

35 так и процессах работы самой технологии; 3) эксплуатации когнитивных искажений; 4) ее беспрецедентного охвата, формирующего общественные предпочтения и выбор в обход демократических процессов76.

Как «информационная путаница» меняет реальный выбор Реорганизация нашей информационной экосистемы повлияла на то, как происходит демократическая дискуссия и как осуществляется выбор, а также серьезно затронула общественно значимые СМИ. Широкое распространение цифровых систем ИИ, которые благодаря цифровым платформам распространяют гораздо быстрее, чем раньше циклы ложных сведений и дезинформации для достижения определенных политических, идеологических или коммерческих целей77, привело к «информационной путанице»78. Это явление подорвало доверие к независимым СМИ и к достоверности информации, а также ведет к размыванию истины. На фоне растущей неопределенности снижается доверие общества к институтам и информационной экосистеме в целом, что, в свою очередь, влияет на качество процесса принятия обоснованных решений, необходимых как для участия в демократических процессах, так и для повседневной жизни79.

76 Nina Keese and Mark R. Leiser, Online Manipulation as a Potential Interference with the Right to Freedom of Thought [Манипуляции в Интернете как потенциальное нарушение права на свободу мысли] in Patrick O’Callaghan and Bethany Shiner (eds.), The Cambridge Handbook of the Right to Freedom of Thought, (Cambridge: Cambridge University Press, 2025); cм. также Kate Brennan et al, Artificial Power: 2025 Landscape Report [Способности ИИ: обзор за 2025 год]. 77 Дезинформация и свобода мнений и их свободное выражение. Доклад Специального докладчика ООН по вопросу о поощрении и защите права на свободу мнений и их свободное выражение Айрин Хан, 13 апреля 2021 г., A/HRC/47/25, п. 2. 78 См. Claire Wardle PhD and Hossein Derakhshan, Information Disorder: Towards an interdisciplinary framework for research and policy making [Информационная путаница: на пути к междисциплинарным рамкам для исследований и разработки политики], (Strasbourg: Council of Europe, 2018) Уордл и Дерахшан для описания информационной путаницы в новой коммуникационной среде используют концептуальную основу, в рамках которой выделяют три типа (дезинформация, ложная информация и вредная информация); три фазы (создание, производство и распространение), а также элементы информационной путаницы (агент, сообщение и интерпретатор). Они рассматривают вред и недостоверность информации для того, чтобы определить ее типы, составляющие экосистему «информационной путаницы». Так, ложная информация — это недостоверная информация, при распространении которой не предполагается причинение вреда. Дезинформация — это ложная информация, сознательно распространяемая, чтобы причинить вред. Вредная информация — это достоверная информация, которая распространяется с намерением причинить вред (например, публикация персональных данных). 79 Дезинформация и свобода мнений и их свободное выражение. Доклад Специального докладчика ООН по вопросу о поощрении и защите права на свободу мнений и их свободное выражение Айрин Хан.

36 По данным Представителя ОБСЕ по вопросам свободы СМИ80, генеративный ИИ создает дополнительные угрозы для журналистики. Он заменяет оригинальный контент, который создают журналисты, а также способствует возникновению проблем, связанных с плагиатом и выплатой вознаграждения. Все это может способствовать дальнейшему вытеснению журналистики и контента, которые представляют интерес для общества, из публичной сферы81.

Одновременно с изменением роли и возможности СМИ действовать в общественных интересах, поддерживая здоровую информационную среду82, генеративный интеллект и возможность создания дипфейков, которые становится все труднее обнаружить, создают дополнительные риски для информационного поля и особенно для избирательных процессов.

Такие технологии легко использовать для манипуляций, распространения дезинформации и ложных сведений, которые приводят к разрушительным последствиям. Дипфейки широко используются при гендерных домогательствах, в частности, для создания и распространения изображений сексуального характера. В первую очередь их жертвами становятся женщины, девочки и ЛГБТИ. С особыми рисками сталкиваются женщины в политике, а также женщины, которые живут в консервативных патриархальных обществах, где дипфейки, изображающие человека в «неподобающей» ситуации, могут привести к серьезным последствиям83.

Например, установлено, что злоумышленники могут использовать модели генеративного ИИ с открытым исходным кодом для совершения

80 См. Отчет по итогам семинара «Технологические корпорации и свобода СМИ», Представитель ОБСЕ по вопросам свободы СМИ, 15 октября 2024 г. (на англ. языке). 81 Помимо журналистики, с генеративным интеллектом связаны вопросы соблюдения Статьи 15 МПЭСКП, которая касается права каждого человека на защиту моральных и материальных интересов, вытекающих из любой научной, литературной или художественной продукции, автором которой он является. 82 См. работа Представителя ОБСЕ по вопросам свободы СМИ в рамках инициативы «СМИ и крупные технологические компании» | ОБСЕ. Кроме того, в 2025 году Представитель ОБСЕ по вопросам свободы СМИ работает над руководством для государств по защите свободы СМИ в эпоху крупных технологических компаний и искусственного интеллекта в рамках поддержки развития здоровых информационных онлайн-пространств. 83 Наблюдательный совет Meta, веб-страница «Модерация контента в новую эпоху ИИ и автоматизации» (на англ. языке); см. также проект БДИПЧ ОБСЕ «CHANGE: использование мандата в области человеческого измерения для поощрения гендерного равенства» (на англ. языке).

37 или распространения гендерного насилия в цифровом пространстве84. Несмотря на то что генеративный ИИ не является источником гендерного насилия, в отсутствие регулирования его способность генерировать, воспроизводить и распространять гендерное насилие и другие виды вредного контента в больших масштабах и с минимальными затратами делает его более разрушительным в руках таких пользователей. При этом пострадавшие вытесняются из онлайн-пространства и/или оказываются слишком запуганными, чтобы реагировать на такие действия85.

Технической особенностью моделей генеративного интеллекта являются «галлюцинации». Это контент, сгенерированный ИИ, который не соответствует фактам или является полностью вымышленным, но, как правило, очень правдоподобным, вследствие чего его трудно, а иногда и невозможно, выявить. Такое явление возникает из-за особенностей работы генеративного ИИ: это обусловлено не только проблемами с базой данных, с которой работает ИИ (в частности, неточности или ложная информация, например, в Интернете), но и с тем, как сконструирован генеративный ИИ. Предполагается, что он должен «сотрудничать» и выдавать ответ86. Как признала компания OpenAI, галлюцинации наряду с такими элементами, как преднамеренная дезинформация и социальные предубеждения, могут поставить под сомнение всю информационную среду и подорвать нашу способность отличать факт от вымысла87. Такая «потеря чувства реальности» оказывает значимое влияние как на субъектность и автономию человека так и на свободу мысли. Компании и исследователи работают над уменьшением галлюцинаций88, в том числе с помощью технических решений, которые позволяют увидеть источники, что, по многим причинам, имеет важное значение. Вместе с тем маловероятно, что

84 Chowdrhury and Lakshmi, “Your opinion doesn’t matter, anyway” [«Ваше мнение все равно не имеет значения»]. 85 Laura Bates, Online brothels, sex robots, simulated rape: AI is ushering in a new age of violence against women [Онлайн-бордели, секс-роботы, имитация изнасилования: ИИ открывает новую эру насилия в отношении женщин],The Guardian, 3 June 2025. 86 Kate Brennan et al, Artificial Power: 2025 Landscape Report, p. 49 [Способности ИИ: обзор за 2025 год]. 87 Colleen M Shannon, P. Eng., LL.M., Do AI Hallucinations Disguise Gender Bias?, [Галлюцинации в ИИ маскируют гендерные предрассудки?], Medium, 27 September 2023. 88 Reece Rogers, Reduce AI Hallucinations with This Neat Software Trick [Как уменьшить галлюцинации ИИ с помощью одной программной хитрости], Wired, 14 June 2024

38 эту проблему можно решить в рамках существующих моделей, не пожертвовав при этом производительностью генеративного ИИ89.

Закон ЕС об ИИ — это первый нормативный акт по регулированию использования генеративного искусственного интеллекта, включая продвинутые дипфейки, направленный на защиту людей от злоупотреблений с применением ИИ. Несмотря на то что одни группы пострадали больше других, «информационная путаница» угрожает свободе мысли, правам человека и общественной безопасности на глобальном уровне90.

Как ИИ влияет на связи между людьми, развитие мышления и право на забвение Способы восприятия и понимания человеком окружающего мира, в том числе благодаря критическому мышлению, формируются на базе их образования, воспитания и условий развития мозга по мере взросления. Искусственный интеллект (особенно генеративные модели) оказал серьезное влияние на образование и продолжит влиять на него в будущем. Вероятно, он будет изменять процессы преподавания и обучения, причем настолько стремительно, что возможностей для содержательного обсуждения плюсов и минусов и для принятия обоснованных решений практически не останется. Цифровая и медийная грамотность необходимы для всех, но учебные программы следует обновить с тем, чтобы предоставить учащимся всех возрастов знания и навыки для того, чтобы понимать среду, которую все больше определяет ИИ, ориентироваться в ней и осуществлять над ней контроль.

Применение ИИ в сфере образования имеет ряд потенциальных преимуществ. В то же время его использование в этой области, как и использование генеративного ИИ, связано с рисками, которые необходимо учитывать. ЮНЕСКО обращает внимание на потенциальные этические проблемы, связанные с внедрением генеративного ИИ в образовательных учреждениях, и призывает 89 Kate Brennan et al, Artificial Power: 2025 Landscape Report, p. 49 [Способности ИИ: обзор за 2025 год]. 90 См. также Marina Nord et.al., Media Freedom, Democracy, and Security [Свобода СМИ, демократия и безопасность].

39 провести комплексную долгосрочную оценку воздействия91. Основное беспокойство вызывает потенциальное снижение взаимодействия между людьми. Такое взаимодействие и общение лежат в основе социально-эмоциональных аспектов обучения, которые важны для когнитивного развития и эмоционального благополучия.

Существует риск того, что ответы или результаты, которые предлагаются системами генеративного ИИ, заменят такой опыт, как обучение и приобретение навыков мышления. По данным научных исследований, использование генеративного ИИ снижает способность к критическому мышлению92. Последние исследования, проведенные компаниями, также свидетельствуют о деградации навыков мышления более высокого порядка среди специалистов, использующих в своей работе модели генеративного ИИ93. Кроме того, есть опасения, что генеративный ИИ предоставляет пользователям ограниченный спектр мнений, поскольку, как правило, воспроизводит «типовые» ответы, что приводит к дальнейшей маргинализации недостаточно представленных мнений94.

Для того чтобы ИИ играл позитивную роль в образовательной сфере, необходимо знать, каким образом он влияет на обучение и приобретение навыков мышления при интеграции в образовательную среду, а затем обеспечить возможности для обучения специалистов в сфере образования и предоставить им четкие рекомендации. Чтобы получить положительные результаты, системы ИИ следует использовать в соответствии с образовательными целями, связанными с надлежащим развитием мыслительных способностей и благополучием человека. Например, с его помощью можно развивать персонализированное обучение на адаптивных образовательных платформах, обеспечивать доступ к образовательным ресурсам в районах, где такой доступ

91 Miao and Holmes, Guidance for generative AI in education and research [Руководство по генеративному ИИ в образовании и исследовательской деятельности]. 92 Andrew R Chow, ChatGPT’s Impact on Our Brains According to an MIT Study [Влияние ChatGPT на наш мозг по данным исследования МИТ], Time, 23 June 2025 93 Despite plans to invest $80 bn, Microsoft admits that AI is making us dumb [Несмотря на свои планы по инвестированию 80 миллиардов долларов, Microsoft признает, что ИИ делает нас глупее], Business Standard, 17 February 2025, источник Parmy Olson, Bloomberg; Amanda Silberling, Is AI making us dumb? [ИИ делает нас глупее?] TechCrunch, 10 February 2025. 94 Miao and Holmes, Guidance for generative AI in education and research [Руководство по генеративному ИИ в образовании и исследовательской деятельности].

40 затруднен, а также помогать учителям путем выполнения повседневных задач, например, автоматической проверки тестов с множественным выбором ответа. Таким образом, использование ИИ будет создавать пространство и возможности для развития свободы мысли.

Вызывает тревогу использование в новых генеративных ИИ имитирующих человеческое общение чат-ботов в качестве друзей или спутников. В этой связи особому риску подвергаются молодые люди, а также люди с проблемами психического здоровья. Кроме того, что они могут усугубить ментальные проблемы, чат-боты способны поощрять нездоровое поведение и даже довести человека до самоубийства95. Особую обеспокоенность вызывает использование ИИ для решения проблем в области психического здоровья: разработка соответствующих программ помощи на основе ИИ является сложной задачей, при этом использование чат-ботов, в том числе предназначенных для других целей (например, для развлечений или маркетинга), связано с высокими рисками. Специалисты и профессиональные объединения психологов предупреждают о таких опасностях96. Чтобы предотвратить вред и обеспечить безопасное развитие любых технологий в этой области срочно необходимо регулирование, предусматривающее запрет конкретных приложений или их использования.

С возникновением онлайн-пространств, управляемых искусственным интеллектом, существенно изменилась степень осознанного присутствия и активности человека в публичном пространстве. Свобода мысли и свобода совести неотделимы от способности человека к постоянной

95 Eileen Guo, An AI chatbot told a user how to kill himself — but the company doesn’t want to “censor” it [Чат-бот с ИИ рассказал пользователю, как покончить с собой, но компания не хочет «подвергать его цензуре»] MIT Technology Review, 6 February 2025; Kate Payne, In lawsuit over teen’s death, judge rejects arguments that AI chatbots have free speech rights [В судебном иске по делу о смерти подростка судья отклонил аргументы о том, что чат-боты с ИИ обладают правом на свободу слова], Associated Press, 21 May 2025. 96 Zara Abrams, Using generic AI chatbots for mental health support: A dangerous trend [Опасная тенденция: использование универсальных чат-ботов для психологической помощи]; American Psychological Association, 12 March 2025; APA calls for guardrails, education, to protect adolescent AI users [Американская психологическая ассоциация призывает к мерам по защите и обучению подростков], American Psychological Association, Press Release, 3 June 2025; Nathalie Koubayová, Meet ChatPal, the European bot against loneliness [ChatPal — европейский бот, который избавит вас от одиночества], Algorithm Watch, 22 May 2023.

41 эволюции и изменениям97. Вместе с тем сегодня присутствие человека в онлайн-пространстве (например, в формате публикаций в Интернете) стало постоянным. Речь идет в том числе об общедоступных данных и оцифровке архивов газет. Например, опубликованное когда-то мнение сегодня может быть использовано против человека. Можно утверждать, что это ограничивает возможность и свободу человека развиваться — как в своих собственных глазах, так и в глазах других людей. Таким образом, человек может быть изначально лишен «права развиваться как личность», которое Шарль Малик, один из авторов Всеобщей декларации прав человека, назвал сущностью свободы.

Судебная практика начинает признавать «право на забвение» в контексте защиты права на неприкосновенность частной жизни. Оно позволяет человеку потребовать удалить информацию о себе, находящуюся в открытом доступе, кроме тех случаев, когда сохранение доступа к такой информации обусловлено общественными интересами98.

Присутствие человека в онлайн-пространстве превратилось в так называемый цифровой след. Это не только то, что человек сознательно публикует онлайн, но и данные обо всех его действиях в Интернете, включая посещение сайтов, которые регистрируются с помощью файлов cookie. Эти данные позволяют создавать более подробный портрет пользователя, что затрагивает его автономию. При этом сами пользователи не осознают масштаб и последствия такого профилирования. Помимо персонализированного контента, оно может использоваться более широко, в частности, в системах наблюдения, а также создавать угрозу кибербезопасности или использоваться для преследования правозащитников, диссидентов или инакомыслящих в авторитарных режимах99.

97 См., например, Hannah Arendt, The Human Condition [Состояние человека], University of Chicago Press: 1953. 98 «Выбор мер с учетом конкретных обстоятельств каждого дела зависит от таких факторов, как достоверность или неточность информации, ее значение для общественной дискуссии, ее историческое, исследовательское или статистическое значение, негативные последствия для частной жизни человека в связи с постоянной доступностью этой информации в Интернете, а также время, прошедшее с событий, упомянутых в статье, или с момента публикации информации», Joint Factsheet: The Right to be Forgotten. ECtHR and CJEU Case-Law [Совместный информационный бюллетень: право на забвение. Судебная практика ЕСПЧ и Суда ЕС], European Court of Human Rights and the EU Agency for Fundamental Rights, 30 October 2024. 99 См. Digital Protection [Защита в цифровом пространстве] на сайте организации Front Line Defenders.

42 5. Нейротехнологии и свобода мысли

Еще одна область, имеющая непосредственное отношение к свободе мысли, особенно в контексте ИИ, — это нейротехнологии. В этом разделе представлен обзор основных вызовов для свободы мысли на фоне развития этой области.

В основополагающем докладе Консультативного комитета Совета ООН по правам человека 2024 года100 под понятием «нейротехнология» понимается «целый ряд устройств и систем, взаимодействующих с центральной нервной системой с помощью электрических, магнитных, оптогенетических и других средств». Некоторые из этих устройств и систем служат в первую очередь для понимания работы мозга, другие же представляют собой методы прямого вмешательства в психические процессы, направленного на восстановление утраченных функций и повышение когнитивных способностей.

Последние открытия в области нейротехнологий обеспечили более глубокое понимание работы мозга и способствовали разработке новых методов лечения неврологических или психических заболеваний. Это стало возможным благодаря масштабным исследованиям при поддержке государства101. Вместе с тем стремительное развитие нейротехнологий, в том числе с опорой на искусственный интеллект, служит основанием для серьезных опасений по поводу ментальной неприкосновенности, целостности и автономии личности.

100 Доклад Консультативного комитета Совета по правам человека «Воздействие, возможности и проблемы применения нейротехнологии в отношении поощрения и защиты всех прав человека», A/HRC/57/61, 8 августа 2024 г., п. 4. Еще одно определение: «Нейротехнологии охватывают устройства и процедуры, используемые для доступа, мониторинга, исследования, оценки, оказания влияния и/или имитации структуры и функций систем нейронных сетей животных или человека». Предварительное исследование технических и правовых аспектов целесообразности принятия нормативного акта об этических аспектах нейротехнологий, ЮНЕСКО, 6 апреля 2023 г. 101 Например, Brain Research through Advancing Innovative Technologies (BRAIN) Initiative [Проект по исследованию мозга на основе развития инновационных технологий] в США; Human Brain Project [Проект по изучению человеческого мозга] в ЕС; China Brain project [Проект по изучению мозга] в Китае. См. также Hermann Garden, David E Winickoff, Nina Maria Frahm, Sebastian Pfotenhauer, Responsible innovation in neurotechnology enterprises [Ответственные инновации в компаниях в области нейротехнологий], OECD Science, Technology and Industry Working Papers 2019/05, p. 15; или International Brain Initiative [Международная инициатива по изучению мозга].

43 В своей рекомендации 2019 года Совет ОЭСР признал, что «некоторые применения нейротехнологий ставят этические, правовые и общественные вопросы, учитывая понимание центральной роли мозга и когнитивных функций в концепциях идентичности, свободы мысли, автономии, неприкосновенности частной жизни и благополучия человека», а также заявил о «необходимости широкого общественного обсуждения наилучшего будущего нейротехнологий в обществе»102. В проекте Рекомендации по этическим аспектам нейротехнологий ЮНЕСКО103 также рассматриваются этические, правовые и общественные вызовы и вопросы, связанные с применением нейротехнологий, в контексте прав и достоинства человека, включая «автономию, неприкосновенность частной жизни, психическую и физическую неприкосновенность, личную идентичность, свободу мысли, риск дискриминации, неравенство и проблемы демократии <...>». Кроме того, признается, что особая осторожность в отношении вмешательств в работу чрезвычайно сложной нервной системы обусловлена ее ролью в координации поведения и психических процессов, поскольку «она обеспечивает автономию личности, ее способность к самоопределению как морального субъекта, ответственность за свои действия, сотрудничество с другими, принятие во внимание коллективных решений и развитие».

Нейротехнологии уже давно применяются в медицине, при этом их взаимосвязь с инженерными и вычислительными науками, а также разработка медицинских и коммерческих приложений значительно усилили их влияние. Однако они не только способствуют развитию медицины, но и несут риски для свободы мысли и других прав человека104.

«… беспрецедентные возможности, которые открывают [нейротехнологии] для вмешательства внешних субъектов в осуществление человеком своих прав, порождают огромные этические проблемы и ставят под сомнение само понимание основополагающих принципов прав человека». Нейротехнологии

102 Recommendation of the Council on Responsible Innovation in Neurotechnology [Рекомендация Совета по ответственным инновациям в области нейротехнологий], Organisation for Economic Cooperation and Development, OECD/LEGAL/0457, adopted on 11 December 2019. 103 Проект Рекомендации об этических аспектах нейротехнологий, ЮНЕСКО, 9 апреля 2025 г. 104 Доклад Консультативного комитета Совета по правам человека, A/HRC/57/61.

44  обладают социально разрушительным потенциалом, поскольку они, как правило: «a) позволяют раскрывать когнитивные процессы; b) позволяют прямо изменять психические процессы и мысли человека; c) не поддаются сознательному контролю со стороны человека или осознанию им; d) делают возможным внешний доступ к мыслям, эмоциям и психическим состояниям без предварительного согласия; e) подпитываются «нейроданными», которые необходимы для их собственного функционирования, корректировки и оптимизации; и f) собирают, анализируют и обрабатывают большие массивы персональных данных, имеющих крайне конфиденциальный характер». — Доклад Консультативного комитета Совета по правам человека «Воздействие, возможности и проблемы применения нейротехнологии в отношении поощрения и защиты всех прав человека», A/HRC/57/61, 8 августа 2024 г.

Помимо медицины, использование продуктов на основе нейротехнологии в приложениях и устройствах, играх, сервисах для мониторинга здоровья, медитации и даже интеграция нейротехнологий в наушники – все это позволило технологических компаниям получить данные о мозге человека, что имеет последствия для свободы мысли105. Как утверждает ЮНЕСКО, «компании могут использовать нейронные данные, полученные с помощью неинвазивных нейротехнологических устройств, в маркетинговых целях. Обнаруживая сигналы, связанные с нашими предпочтениями и антипатиями, эти компании могут влиять на поведение клиентов для получения максимальной прибыли. Это поднимает тревожные вопросы о системах слежения, маркетинговых тактиках и политическом влиянии на наши частные мысли и эмоции, что в конечном итоге угрожает демократии и основам общества»106. Другие виды сенсорных технологий способны косвенно собирать данные о нашей нейронной активности: отслеживать взгляд, распознавать и анализировать голос, определять эмоции по выражению лица. В связи с их использованием для оценки психического состояния человека возникают вопросы107.

105 Farahany, The Battle for Your Brain [Борьба за ваш мозг]. 106 Этика нейротехнологий, сайт ЮНЕСКО. 107 Проект Рекомендации об этических аспектах нейротехнологий, ЮНЕСКО.

45  «Речь идет не просто о здоровье, а скорее о том, как мы рассматриваем личность, наше достоинство и способность полностью осуществлять свои права в контексте противостояния между потребностями в области здравоохранения и рыночными целями. С одной стороны, у нас есть серьезные задачи в здравоохранении, поскольку на заболевания нервной системы, неврологические заболевания и психические расстройства приходится треть наших расходов на здравоохранение <...> С другой стороны, на потребительском рынке становятся востребованными «нейронные данные» (или «данные мозга») за пределами медицинского сектора для цифрового фенотипирования, аффективных вычислений, нейрогейминга и нейромаркетинга. С таким использованием нейротехнологий связаны вопросы доверия общества, защиты ментальной неприкосновенности, стремительного технологического и экономического развития. Кроме того, следует отметить тот факт, что такие разработки практически не контролируются или контролируются ненадлежащим образом». Hervé Chneiweiss, Ethics issues and global governance of neurotechnologies, in The risks and challenges of neurotechnologies for human rights [Этические вопросы и глобальное управление нейротехнологиями в сборнике «Нейротехнологии: риски и вызовы для прав человека»], UNESCO, University of Milan-Bicocca, and State University of New York (SUNY) Downstate, 2023, pp. 48-49.

В вышеупомянутом докладе Консультативного комитета Совета по правам человека делается вывод о том, что нейротехнологии уникальным образом влияют на права человека. В нем рассматриваются и объясняются основные риски для прав человека, включая право на свободу мысли, которые связаны с нейротехнологиями и их (потенциальным) использованием, включая следующие:

y Технологии, которые первоначально предназначались для помощи людям с неврологическими заболеваниями, сегодня разрабатываются и продаются как приложения для повышения когнитивных способностей и других немедицинских целей. Такие технологии позволяют пользователям управлять определенными элементами внешней среды с помощью мыслей или общаться с другими людьми, имеющими аналогичный имплантат. Несмотря на

46  то что такие медицинские решения могут быть инновационными, отсутствие надлежащих этических и правозащитных рамок для немедицинских устройств вызывает серьезные опасения, в частности, в отношении свободы мысли, отсутствия дискриминации, а также обеспечения равноправного доступа к таким решениям в медицинских целях. Кроме того, вызывает беспокойство соблюдение прав детей: например, в случае если в играх используются интерфейсы «мозг – компьютер», краткосрочные или долгосрочные последствия использования которых для (психического) здоровья недостаточно изучены, или в случае когда нейротехнологические продукты используются с целью улучшения интеллектуальных способностей детей.

y Несмотря на то что «чтение мыслей» пока невозможно, нейротехнологии с элементами ИИ способны делать все более подробные выводы о мыслях и психических состояниях человека, что позволяет создавать индивидуальные психологические профили. Специфическая озабоченность по поводу защиты неприкосновенности частной жизни возникает в связи с тем, что нейротехнологии способны делать детальные умозаключения об идентичности человека, в частности, личностных характеристиках, когнитивных способностях или сексуальной ориентации. Дополнительные риски связаны с использованием таких данных в системах правосудия или национальной безопасности в ходе допросов подозреваемых или свидетелей, в том числе с помощью детекторов лжи, использующих нейротехнологии. Таким образом, нарушается право не свидетельствовать против себя и создается риск наказания людей за их мысли. Это касается также ситуаций, когда технологии еще, возможно, не достигли такого уровня точности, чтобы правильно оценивать мысли человека. Раскрытие невысказанных мыслей без согласия человека противоречит принципам свободы мысли108.

y Устройства для диагностики психических состояний уже применяются на рабочих местах, в частности, в экстремальных условиях, для обеспечения бдительности и предотвращения аварий

108 Доклад Консультативного комитета Совета по правам человека, A/HRC/57/61.

47  из-за усталости109. Хотя ставки здесь высоки, использование нейротехнологий вызывает серьезное беспокойство в отношении прав человека, в частности, прав работников и права на свободу мысли. Это может привести к использованию «нейронаблюдения» в целях повышения производительности110. Закон ЕС об ИИ предусматривает меры по решению этой проблемы в конкретных ситуациях 111. Более того, потребительское применение этих технологий, особенно в отсутствие четкого этического и правозащитного надзора и учитывая тот факт, что долгосрочные последствия их использования неизвестны, представляет риски для неприкосновенности личности и (психического) здоровья.

y В отсутствие надлежащего регулирования разработки и использования нейротехнологий особому риску подвергаются уязвимые группы, включая пожилых людей, детей, людей с инвалидностью и лиц, находящихся в заключении или в других условиях содержания под стражей. В частности, возникают вопросы по поводу согласия, которое всегда должно быть предварительным, добровольным, информированным, реальным, прозрачным, действительным и никогда не должно быть подразумеваемым. Например, учитывая медицинские задачи, для решения которых разрабатываются многие технологии, людей с инвалидностью и их представителей следует привлекать к процессам разработки, а их потребности, мнения и права как конечных пользователей должны занимать в этих процессах центральное место. Кроме того, обеспечение прав людей с инвалидностью означает предоставление им полного доступа к нейротехнологическим устройствам по завершении их разработки, а также проверки безопасности, эффективности и гарантий 109 К ним относятся такие отрасли, как добыча полезных ископаемых, строительство, грузоперевозки, авиация, железные дороги. Farahany, The Battle for Your Brain [Борьба за ваш мозг]. См. также José M. Muñoz, Laura Isaza, and Tarini Mehta, Tech is coming for your brain data: how a Chilean politician turbocharged the “neurorights” movement [Технологическим компаниям нужны данные о вашем мозге: как чилийский политик запустил движение за «нейроправа»], The Boston Globe, 10 September 2024. 110 Доклад Консультативного комитета Совета по правам человека, A/HRC/57/61. 111 Краткое содержание закона об ИИ, сайт ЕС, посвященный закону об ИИ, 27 февраля 2024 г., обновление от 30 мая 2024 г. (на англ. языке). В соответствии с законом распознавание эмоций на рабочих местах или в образовательных учреждениях, за исключением случаев, когда это необходимо в медицинских целях или в целях безопасности, относится к категории запрещенных систем ИИ. См. также Nora Santalu, Neurotechnologies under the EU AI Act: Where law meets science [Нейротехнологии в рамках закона ЕС об ИИ: где право соприкасается с наукой], IAPP, 12 May, 2025.

48  соблюдения прав человека на этапах проектирования, разработки и применения 112. Такой подход соответствует социальной модели, закрепленной в Конвенции о правах инвалидов, в которой, в отличие от дискриминационной медицинской модели, традиционно ориентированной на профилактику и лечение, люди с инвалидностью рассматриваются как часть человеческого разнообразия и участники жизни общества113.

Регулирование должно обеспечить защиту прав человека путем определения четких рамок на основе прав человека в области коммерческого использования нейротехнологий, при этом приоритетными должны оставаться достижения в сфере медицины.

112 Доклад Консультативного комитета Совета по правам человека, A/HRC/57/61. 113 Международный альянс по проблемам инвалидности. Представление материалов по запросу Консультативного комитета Совета по правам человека на тему нейротехнологий и прав человека, 2 июля 2023 г. (на англ. языке), см. OHCHR Neurotechnology and human rights webpage [Нейротехнологии и права человека на сайте УВКПЧ].

49 6. Нормативно-правовая база

Регулирование ИИ на протяжении всего его жизненного цикла отстает от стремительных темпов развития одной из самых сложных и значимых областей в истории человечества. На региональном и мировом уровне существует ряд документов, не имеющих обязательной силы, но при этом нет ни одной всеобщей юридически обязательной нормы, обеспечивающей защиту прав человека114.

В принятой в 2021 году Рекомендации об этических аспектах ИИ Генеральная конференция ЮНЕСКО признала, что имеет место «существенное и динамичное позитивное и негативное воздействие, оказываемое искусственным интеллектом (ИИ) на общественные системы, окружающую среду, экосистемы и жизнь человека, в том числе его интеллектуальную деятельность, отчасти обусловленное появлением новых возможностей, позволяющих путем использования ИИ влиять на процессы мышления, взаимодействия и принятия человеком решений, а также на сферу образования, гуманитарные, социальные и естественные науки, культуру и информационно-коммуникационные технологии». Рекомендация в первую очередь направлена на защиту прав человека и человеческого достоинства на основе принципов прозрачности, справедливости и подконтрольности. Кроме того, в преамбуле документа содержится предупреждение о дисбалансах, связанных с ИИ, которые могут привести к серьезным рискам и потенциальным последствиям в разных сферах, а также призыв к укреплению взаимодействия и солидарного подхода в глобальном масштабе, включая многостороннее сотрудничество. — Рекомендация об этических аспектах искусственного интеллекта, ЮНЕСКО, 23 ноября 2021 года

114 Искусственный интеллект, сайт ЮНЕСКО; проект Рекомендации об этических аспектах нейротехнологий; ЮНЕСКО, Artificial intelligence [Искусственный интеллект], сайт ОЭСР; Управление искусственным интеллектом в интересах человечества, Консультативный орган ООН по вопросам искусственного интеллекта, сентябрь 2024 г.; Глобальный цифровой договор ООН.

50 Закон Европейского союза об искусственном интеллекте позволил добиться значительного прогресса, в частности, в области защиты прав человека. Поскольку закон был принят недавно и требует дополнительных разъяснений и развития инструментария, а также создания национальных механизмов по его имплементации, он еще не продемонстрировал свои возможности по снижению негативных последствий ИИ для прав человека. В 2024 году Совет Европы также принял Рамочную конвенцию об искусственном интеллекте и правах человека, демократии и верховенстве права, к которой присоединились новые участники115.

Несмотря на имеющиеся вопросы по поводу объема и эффективности средств защиты в этих документах116, важно обеспечить их ратификацию, внедрение и, если необходимо, укрепление этих инструментов. Для этого потребуются ресурсы и готовность на уровне государств, а также — в случае Закона ЕС об ИИ — со стороны институтов Европейского союза. Несмотря на то что отраслевые стандарты не являются обязательными и не заменяют меры регулирования, они также способствуют созданию этических рамок117. Кроме того, БДИПЧ отмечает появление научных работ и инициатив по вопросу принятия глобальных нормативных рамок, которые становятся основой для дискуссии по этой теме118.

115 Конвенция также открыта для подписания принимавшими участие в ее подготовке государствами, которые не являются членами Совета Европы. Разработаны специальные процедуры, позволяющие присоединиться к конвенции государствам, не являющимся членами Совета Европы. По состоянию на январь 2025 года конвенцию подписали США и Израиль. Чтобы конвенция приобрела обязательную юридическую силу, она должна пройти процедуру ратификации. 116 См. EU: Artificial Intelligence rulebook fails to stop proliferation of abusive technologies [Cвод правил ЕС в области ИИ не остановил распространение технологий, нарушающих права человека] Amnesty International, 13 March 2024; и ENNHRI Calls on Council of Europe member States to ensure strong human rights protection in the draft Convention on AI, Human Rights, Democracy and Rule of Law [Европейская сеть НПЗУ призывает государства-члены Совета Европы обеспечить надежную защиту прав человека в проекте Конвенции об ИИ, правах человека, демократии и верховенстве права] ENNHRI, 17 May 2024. Всесторонний анализ этого закона и других нормативных актов в этой области см. Sandra Wachter, Limitations and Loopholes in the EU AI Act and AI Liability Directives: What This means for the European Union, the United States, and Beyond [Ограничения и пробелы в Законе ЕС об ИИ и директивах об ответственности в области ИИ: что это означает для Европейского союза, США и других стран], Yale Journal of Law and Technology, Vol. 26, Issue 3, pp. 671-718; обсуждение конкретных нейротехнологий, а также пробелов в законодательстве ЕС см. Christoph Bublitz, Banning biometric mind reading: the case for criminalizing mind probing [Запрет биометрического чтения мыслей: аргументы в пользу криминализации распознавания мыслей], Law, Innovation and Technology, Vol. 16, Issue 2, pp. 432–462. 117 См., например, IEEE Frameworks, Institute of Electrical and Electronics Engineers (IEEE) Tech Ethics [Стандарты Института инженеров в области электротехники и электроники]. 118 См., например, Alexander Kriebitz, Caitlin C Corrigan (eds.), Promoting and Advancing Human Rights in Global AI Ecosystems: The Need for A Comprehensive Framework under International Law [Поощрение

51 Закон ЕС об ИИ — это на сегодняшний день самая полноценная попытка регулирования разработки и использования искусственного интеллекта, намного опережающая другие нормативные документы. Он устанавливает следующую риск-ориентированную категоризацию систем ИИ: запрещенные практики ИИ, высокорисковые системы ИИ, а также категории ограниченного и минимального риска. Закон предусматривает регулирование ИИ-систем общего назначения, которые работают на основе базовых моделей, таких как генеративный ИИ, а также закрепляет ряд обязательств, в частности, в отношении прозрачности и подотчетности. Кроме того, закон выделяет мощные модели ИИ общего назначения, представляющие системные риски, устанавливает дополнительные требования и уточняет, что такие модели могут использоваться в качестве высокорисковых систем или могут быть интегрированы в такие системы. В этой связи устанавливаются определенные обязательства по взаимодействию с такими системами для обеспечения их соответствия требованиям закона. Следует отметить, что закон предъявляет меньше требований к моделям ИИ общего назначения, которые распространяются на основе бесплатных открытых лицензий119. Закон ЕС об ИИ, использующий подход, основанный на оценке рисков, можно использовать в качестве модели в других регионах.

К запрещенным относятся ИИ-системы, которые предусматривают использование подсознательных, манипулятивных или вводящих в заблуждение методов для искажения поведения и затруднения принятия обоснованных решений, и причиняют значительный вред; использование уязвимостей, касающихся возраста, инвалидности или социально-экономического положения, для искажения поведения с причинением значительного вреда; использование систем биометрической категоризации (за исключением использования правоохранительными органами); осуществление социального скоринга на основе социального поведения или личностных характеристик; оценку риска совершения человеком уголовного преступления

и продвижение прав человека в глобальных ИИ-экосистемах: потребность во всеобъемлющих рамках в международном праве], February 2025. 119 Краткое содержание закона об ИИ, веб-сайт ЕС, посвященный закону об ИИ, 27 февраля 2024 г., обновление от 30 маяy 2024 г. (на англ. языке).

52  исключительно на основе профилирования или личностных характеристик, за исключением случаев, когда она используется в дополнение к оценке, проведенной людьми, на основе объективных проверяемых фактов, непосредственно связанных с преступной деятельностью; формирование баз данных для распознавания лиц путем массового сканирования изображений лиц в Интернете или с записей камер видеонаблюдения; распознавание эмоций на рабочих местах или в образовательных учреждениях, за исключением случаев, когда это необходимо в медицинских целях или по соображениям безопасности; удаленную биометрическую идентификацию в режиме реального времени в общественных местах для целей правоохранительных органов, за некоторыми исключениями, которые требуют, в частности, оценки воздействия такой идентификации на основные права человека.

Поставщики систем ИИ высокого риска должны выполнять особые требования, которые касаются управления рисками, качества данных, прозрачности, подотчетности и человеческого надзора. Перед развертыванием, за некоторыми исключениями и при определенных условиях, в отношении таких систем также проводится оценка воздействия на основные права человека. ИИ-системы, которые используются для профилирования, всегда относят к высокорисковым. —Краткое содержание закона об ИИ, веб-страница сайта ЕС, посвященная закону об ИИ, 27 февраля 2024 г., последнее обновление от 30 мая 2024 г. (на англ. языке).

До принятия закона об искусственном интеллекте в ЕС был принят пакет нормативно-правовых актов о цифровых услугах, которые регулируют работу онлайн-платформ и посредников, а также устанавливают правила для крупнейших платформ и поисковых систем. Кроме того, эти законы направлены на устранение системных рисков в отношении незаконного контента, свободы выражения мнений, свободы и плюрализма СМИ, дискриминации, защиты прав потребителей и прав детей, общественной безопасности и избирательных процессов, гендерного насилия, а также психического и физического благополучия. Они также закрепляют определенный

53 уровень прозрачности и надзора со стороны властей, как и возможность использования рекомендательных систем, которые не основаны на профилировании пользователей120.

Эти нормативно-правовые акты Европейского союза регулируют чрезвычайно сложную область, и их влияние еще не проявилось в полной мере. Необходимые инструменты и институциональные рамки, особенно на национальном уровне, на момент подготовки публикации находятся в процессе разработки121. Кроме того, нет гарантий, что такое регулирование обеспечит защиту прав человека в контексте развития ИИ122. Законодательство ЕС играет важную роль, но его действие не распространяется на все государства ОБСЕ и другие регионы мира, поэтому необходимо регулирование на глобальном уровне123. Закон Евросоюза об ИИ и Рамочная конвенция Совета Европы предусматривают исключения в целях национальной безопасности. Поскольку ЕС является самым передовым регулятором ИИ в мире, такие исключения вызывают серьезные вопросы по поводу соблюдения прав человека, а также могут сыграть роль в новой глобальной гонке вооружений, где лидерство в развитии ИИ обеспечивает превосходство124. В таких условиях крайне важно развивать международное сотрудничество и создавать единые стандарты, которые позволят устранить такие пробелы, предотвратить злоупотребления и в то же время обеспечить поддержку ответственных инноваций.

120 European Commission, DSA: Very large online platforms and search engines [Закон о цифровых услугах: крупнейшие онлайн-платформы и поисковые системы](последнее обновление веб-страницы от 12 февраля 2025 г.); Европейская комиссия, Пакет законов о цифровых услугах (последнее обновление веб-страницы от 12 февраля 2025 г. )(на англ. языке). 121 См. Towards meaningful fundamental rights impact assessments under the DSA [ Проведение содержательных оценок воздействия на основные права в соответствии с законом о цифровых технологиях], European Center for Not-for-Profit Law and Access Now, 15 September 2023; Aninda Chakraborty, LatticeFlow AI unveils EU compliance framework for Generative AI [LatticeFlow AI представляет систему соответствия требованиям ЕС к генеративному ИИ], Tech Monitor, 17 October 2024; Обзор всех национальных планов по реализации положений Закона об ИИ, веб-сайт ЕС, посвященный Закону об ИИ, 8 ноября 2024 г. (последнее обновление от 19 мая 2025 г.) (на англ. языке). 122 Withdrawal of the AI Liability Directive Proposal Raises Concerns Over Justice for AI Victims [Отзыв предложения о принятии директивы об ответственности за использование ИИ поставил вопрос о справедливости для жертв искусственного интеллекта], Center for Democracy and Technology, 12 February 2025. 123 Нормативные документы были приняты в ряде стран, не входящих в ОБСЕ. Эти документы не являются предметом анализа в данной публикации. ЕС остается ведущим регулятором в этой сфере. 124 Ilaria Carroza, Nicholas Marsh and Gregory M. Reichberg, Dual-Use AI Technology in China, the US and the EU: Strategic Implications for the Balance of Power [Технологии ИИ двойного назначения в Китае, США и ЕС: стратегические последствия для баланса сил], PRIO Paper, (Oslo: PRIO, 2022).

54 Разработка продуктов для медицинской сферы регулируется определенными нормативными актами, при этом нейротехнологии, создаваемые в коммерческих целях, создают новые риски для прав и основных свобод человека. Такие технологии требуют более эффективных механизмов защиты. Следует отметить, что на национальном или региональном уровне, а также в рамках закона ЕС об искусственном интеллекте есть отдельные — как правило, немногочисленные — элементы регулирования нейротехнологий, но универсальных международных и юридически обязательных стандартов в этой сфере не существует125. В настоящее время в рамках продолжения работы по этике в сфере ИИ в ЮНЕСКО обсуждается первый глобальный стандарт по этическим аспектам в нейротехнологиях, не имеющий обязательной силы126. Помимо этого, необходимо всестороннее регулирование, учитывающее сложность вызовов, связанных с нейротехнологиями, как в рамках действующих механизмов защиты, которые могут включать новые риски для прав человека, так и с помощью новых инструментов, касающихся разработки и применения нейротехнологий.

В своем докладе 2024 года127 Специальный докладчик ООН по вопросу о праве на неприкосновенность частной жизни представил предложение об обновлении принятой в 1990 году резолюции Генеральной Ассамблеи 45/95 «Руководящие принципы регламентации компьютеризованных картотек, содержащих данные личного характера». В предложенном тексте говорится, что обработка нейроданных «не должна использоваться для манипулирования свободой мысли и совести людей или ее изменения, чтобы сделать их зависимыми от третьей стороны или повлиять на их представления, безопасность или автономию, а также их естественную мозговую идентичность или нейрокогнитивную целостность». Такие данные «также не могут обрабатываться в целях, не связанных с укреплением здоровья, диагностикой, реабилитацией и облегчением течения заболеваний в контексте осуществления права

125 См., например, Рекомендация Совета по ответственным инновациям в области нейротехнологий OECD/Legal/0457, принята 11 декабря 2019 г. (на англ. языке). 126 Этические аспекты нейротехнологий: ЮНЕСКО назначила международную группу экспертов для подготовки нового глобального стандарта, пресс-релиз ЮНЕСКО, 22 апреля 2024 г. 127 A/79/173: Доклад Специального докладчика по вопросу о праве на неприкосновенность частной жизни Аны Браян Нугререс Предложение об обновлении резолюции 45/95 Генеральной Ассамблеи от 14 декабря 1990 года, озаглавленной «Руководящие принципы регламентации компьютеризованных картотек, содержащих данные личного характера», 17 июля 2024 г.

55 на здоровье или с проведением научных исследований в областях биологии, психологии и медицины для уменьшения страданий или улучшения состояния здоровья». В апреле 2025 года Совет ООН по правам человека принял Резолюцию 58/6, в которой признал, что «продолжение работы над некоторыми видами их применения может вызывать ряд этических, правовых и социальных вопросов и иметь последствия для человеческого достоинства и автономии, что делает необходимым обеспечение эффективного уважения, защиты и реализации прав человека в этом контексте». Совет поручил Консультативному комитету разработать набор руководящих принципов применения существующей правозащитной базы к концептуализации, проектированию, разработке, тестированию, использованию и внедрению нейротехнологий128.

В последние годы люди стали значительно лучше понимать, как социальные сети используют их данные, несмотря на сохраняющиеся вызовы и отсутствие четкого понимания последствий. В то же время осознание возможных рисков для прав человека, связанных с предоставлением своих нейроданных, крайне ограничено, в том числе из-за отсутствия нормативно-правовой базы129.

ИИ-революция так называется, поскольку ИИ кардинально изменил жизнь человека и продолжит менять ее в будущем. Вместе с тем эта революция произошла без какой-либо публичной дискуссии или вклада общества в принятие решений. Ситуацию, в которой потребители присутствуют на цифровом рынке и только отчасти представляют себе имеющиеся у них возможности выбора и имеют лишь ограниченную способность повлиять на них, нельзя приравнять к демократическому обсуждению. Аналогичным образом стремительное развитие нейротехнологий и особенно коммерциализация устройств, которые взаимодействуют с мозгом человека или с нейронными цепями, оказывают беспрецедентное влияние на права человека. Государства- участники ОБСЕ несут обязательства по восстановлению условий для публичной дискуссии по значимым для общества вопросам. К ним относятся «улучшение когнитивных способностей» здоровых людей или даже «расширение человеческих возможностей», которые 128 Руководящие принципы прав человека в области нейротехнологий, сайт Совета ООН по правам человека (на англ. языке). 129 Farahany, The Battle for Your Brain [Борьба за ваш мозг].

56 могут иметь настолько серьезные последствия для человечества, что заслуживают всестороннего обсуждения, по итогам которого могут быть приняты обоснованные решения о регулировании технологий такого типа. Круг участников таких обсуждений и процессов принятия решений должен быть намного шире и не должен ограничиваться крохотной группой специалистов, участвующих в разработке таких технологий или немногочисленных исследователей, работающих в этой сфере, которые могут утверждать, что у них имеется обоснованное мнение по этим вопросам130. Несмотря на то что это сложные вопросы, последствия применения таких технологий для общества должны быть четко сформулированы и доведены до сведения общественности, чтобы обеспечить подлинное демократическое обсуждение вопроса о том следует ли использовать ИИ или отказаться от таких технологий.

«Ажиотаж вокруг ИИ <…> не утихает, поэтому кажется бессмысленным, и даже невозможным, что-либо иное, кроме уверенного продвижения к неизбежному господству искусственного интеллекта в будущем. Но каким бы правдоподобным это не казалось, это всего лишь ощущение. Оно не соответствует действительности, по крайней мере, пока. На самом деле существует множество альтернатив нынешней версии ИИ, множество способов построения нового мира. Но как и ИИ, они не являются неизбежными. Чтобы они стали реальностью, нужно для начала ответить на один вопрос: хотим ли мы жить в таком мире?» — Kate Brennan, Amba Kak and Dr. Sarah Myers West, Artificial Power: 2025 Landscape Report [Способности ИИ: обзор за 2025 год ], AI Now Institute, 3 June 2025, pp. 9 and 12.

130 См. также OECD, Recommendation of the Council on Responsible Innovation in Neurotechnology, Recommendation No. 5: Enable societal deliberation on neurotechnology [Рекомендация Совета по ответственным инновациям в нейротехнологиях, Рекомендация № 5: Содействовать общественному обсуждению нейротехнологий].

57 7. Выводы и рекомендации

Необходимость защиты свободы мысли приобретает все большее значение на фоне растущего воздействия ИИ-технологий на самосознание человека и общества. Существующая система разработки и использования таких технологий усугубляет дисбалансы прав и полномочий и представляет угрозу для демократии. Мысли и решения человека должны быть защищены от новейших видов манипуляций, незаметных, но эффективных, а невысказанные мысли должны оставаться нераскрытыми для других. В отсутствие нормативных рамок для защиты прав человека, распространение технологий на основе ИИ, похоже, размывает — если не стирает — границы демократической ответственности и подотчетности. На государствах лежит обязанность уважать, защищать и соблюдать права человека. Для этого необходимо обеспечить регулирование на национальном и международном уровне. Несмотря на то что государства пока не приняли соответствующие меры, у них есть время это сделать, в частности, в отношении разработки и применения нейротехнологий. Такое регулирование позволит предотвратить масштабные негативные последствия.

На основе неисчерпывающего перечня критериев, предложенного Специальным докладчиком ООН по вопросу о свободе религии или убеждений для определения того, что можно рассматривать как недопустимое манипулирование мышлением в конкретных случаях, Сьюзи Алегре и Аарон Шулл составили список факторов для правовой оценки незаконного манипулирования с помощью технологий. Они отмечают, что право на свободу мысли в рамках системы защиты прав человека под эгидой ООН «возникло в ответ на зверства, совершенные нацистской Германией, и как признание катастрофических рисков, которые идеологическая обработка населения несет для прав человека в целом. Эффективная защита права на свободу мысли имеет решающее значение для будущего демократии и прав человека во всем мире». Они также предлагают «включить новые правовые критерии

58  в замечание общего порядка Комитета по правам человека с учетом ряда дополнительных факторов: y масштаб и сфера применения практики; y осведомленность общественности или соответствующих лиц о тактике влияния; y понимание общественностью или соответствующими лицами последствий применения определенной практики; y способность соответствующей практики обходить рациональное мышление; y интенсивность и продолжительность воздействия; y целенаправленное воздействие на определенные когнитивные искажения или уязвимости (особенно с использованием «инсайдерской информации», полученной с помощью данных); y любой дисбаланс сил; y наличие практической возможности сказать ”нет”». — Susie Alegre and Aaron Schull, Freedom of Thought: Reviving and Protecting a Forgotten Human Rights [Свобода мысли: восстановление и защита забытых прав человека], Center for International Governance Innovation, 2024, p. 12.

В свете изложенных аргументов в целях создания благоприятной среды для свободы мысли государствам-участникам ОБСЕ рекомендуется: y Принять на национальном уровне политику, законы и нормативные акты на основе прав человека, а также создать институциональную инфраструктуру для обеспечения уважения, защиты и реализации права на свободу мысли, а также всех прав и основных свобод человека в контексте растущей роли технологий на основе ИИ или использующих ИИ, включая нейротехнологии. Для того чтобы обеспечить уважение человеческого достоинства и демократических принципов при регулировании нейротехнологий необходимо руководствоваться этическими и правозащитными соображениями, что предполагает, в частности, отказ от бизнес- модели социальных сетей, а также применение подходов на основе

59  оценки рисков и принятие разработанных отраслью мер по защите прав человека на протяжении всего жизненного цикла ИИ. y Внедрить методологии оценки воздействия на права человека в качестве стандартной практики, создать правовые и институциональные рамки, необходимые для обеспечения широкого использования таких методологий. Такие инструменты должны уделять приоритетное внимание уважению, защите и соблюдению прав человека на протяжении всего жизненного цикла ИИ, регулярно пересматриваться и адаптироваться к быстрым темпам развития ИИ и новым вызовам в области прав человека. Разработать инструменты для включения свободы мысли в оценку воздействия на права человека любых технологий на основе ИИ, рассматривать это право как в качестве отдельно существующего, так и в связи с другими правами человека, включая право на свободу выражения мнения и на неприкосновенность частной жизни. y Собирать данные на протяжении всего жизненного цикла ИИ, оценивать соответствие стандартам прав человека (включая свободу мысли), потенциальные передовые практики и способы получения пользы от ИИ, а также доступность и равные возможности. Несмотря на стремительное внедрение новых технологий на основе ИИ во многих сферах, в мире нет не только соответствующего регулирования, но и эффективного мониторинга в этой области, необходимого для понимания воздействия соответствующих технологий на права человека, прогнозирования последствий их использования и выявления новых возможностей. Государства обязаны осуществлять мониторинг прав человека и обеспечивать их соблюдение. Особое внимание необходимо уделять наиболее уязвимым группам, включая людей с инвалидностью, детей, пожилых людей и лиц, находящихся в местах лишения свободы. y Развивать и поддерживать новые исследования и концептуальное разъяснение стандартов в целях поощрения и защиты свободы мысли, особенно в контексте новых технологий на основе искусственного интеллекта, включая международное сотрудничество в системе ООН (например, на основе принятия резолюций Совета по правам человека), использование механизмов ООН по правам человека (запрос на представление замечаний

60  общего порядка / подготовку докладов), а также посредством иных аналогичных способов. y Работать с системами образования и готовить их к отражению новых моделей общественной жизни; помогать учащимся понять, что в мире, который все больше зависит от искусственного интеллекта, можно сохранить свободу мысли, если действовать на основе критического мышления, как личность, обладающая автономией и свободой воли. Для этого недостаточно программ по повышению цифровой грамотности: новые государственные учебные программы должны включать информацию, навыки и модели поведения, необходимые для подготовки нынешнего и будущих поколений к изменениям, которые затронут все сферы жизни. Кроме того, следует предусмотреть программы обучения и информационные кампании для взрослого населения. y Организовать во всех образовательных и учебных учреждениях подготовку на тему этики и прав человека для тех, кто работает с ИИ или принимает решения о его использовании на протяжении всего жизненного цикла, чтобы гарантировать соблюдение прав человека или укрепление их защиты. Обучение в процессе получения образования (например, в университете) и непрерывное обучение для тех, кто уже работает, призваны гарантировать, что специалисты, которые разрабатывают и внедряют ИИ и новые технологии или управляют ими (аналитики данных, инженеры и другие), прошли подготовку по вопросам этических и правозащитных аспектов использования технологий, в том числе на тему свободы мысли. Специалисты, работающие с ИИ на протяжении его жизненного цикла (включая тех, кто принимает решения о приобретении и внедрении таких технологий), должны знать, как проводить оценку воздействия на права человека и интегрировать меры по защите прав человека в технологии искусственного интеллекта на этапе проектирования. y Защищать независимые СМИ и укреплять их роль в защите общественных интересов, включая защиту свободы мысли, свободы мнений и их выражения, в частности, путем выполнения рекомендаций Представителя ОБСЕ по вопросам свободы СМИ по этой значимой теме131.

131 Подробнее см. Представитель ОБСЕ по вопросам свободы СМИ. В фокусе - искусственный интеллект и свобода слова: рекомендации по разработке политики;

61 y Способствовать развитию подлинной общественной дискуссии о последствиях применения ИИ и нейротехнологий с точки зрения этики и прав человека, в частности, права на свободу мысли. Эти дискуссии должны быть структурированными и междисциплинарными, с привлечением различных заинтересованных сторон, включая тех, чьи права могут быть затронуты, или пользователей таких технологий. Чтобы повысить осведомленность общества об этих последствиях и предоставить необходимую информацию для широкой дискуссии, необходимо привлекать общественно значимые СМИ. Кроме того, в ходе дискуссий должна быть обеспечена прозрачность и подотчетность, а их результаты должны найти отражение в политических решениях. y Работать совместно с независимыми институтами ОБСЕ, включая БДИПЧ и Представителя ОБСЕ по вопросам свободы СМИ, чтобы обеспечить внедрение ИИ-технологий и их регулирование на протяжении жизненного цикла в соответствии с принципами прав человека.

— SAIFE Resource Hub, а также запланированная работа в рамках инициативы Media and Big Tech [СМИ и крупнейшие технологические компании].

62