Cine te manipulează mai bine? Social media vs. democrația liberală, în era inteligenței artificiale – Av. Silvia Uscov

Ideea acestei analize a venit ca urmare a faptului că am fost ținta unei campanii coordonate de atac pe platformele de social media, realizată printr-o rețea organizată de așa-zise conturi independente de „presă”. La începutul lunii martie 2026 a fost un singur articol defăimător distribuit de unul dintre aceste conturi pe social media și impactul a fost probabil de până în 500 de utilizatori care au vizualizat conținutul, nesemnificativ pentru a declanșa o reacție din partea mea, dar am monitorizat situația. La 3 săptămâni, însă, s-a dat startul operațiunii coordonate prin această rețea, iar rezultatul e că informația falsă a pătruns în aproape toate bulele în mod artificial, ajungând la sute de mii sau chiar milioane de utilizatori.

Greșeala fundamentală în dezbaterea din prezent este că tratăm manipularea algoritmică ca pe o problemă de conținut, când de fapt este o problemă de arhitectură. Nu este vorba despre ce se spune pe rețelele sociale, ci despre cum este distribuit, amplificat și personalizat ce se spune. Această distincție este esențială. Libertatea de exprimare protejează dreptul de a spune lucruri ofensatoare, nepopulare. Într-un regim cu adevărat liberal, poți promova teorii conspiraționiste absurde și idei care să provoace indignare. Răspunsul la această formă de comunicare este mai multă comunicare, nu cenzura – aceasta e doctrina clasică. Dar algoritmii nu protejează comunicarea, ci o transformă. Ei iau o postare cu 10 vizualizări organice și o amplifică la 10 milioane. Iau o opinie marginală și o fac să pară majoritară. Iau un dezacord minor și îl polarizează până la ură viscerală. Algoritmii nu moderează, ci manipulează.

Problema nu este că există oameni care cred în teoria Pământului plat. Problema este că algoritmii îi conectează pe toți într-o comunitate coezivă, le servesc progresiv conținut mai extrem și transformă o curiozitate în identitate tribală. Conținutul poate fi complet legal și chiar protejat constituțional. Arhitectura este ceea ce creează patologia. Pentru a combate manipularea fără a deveni cenzori, trebuie să înțelegem mecanic exact cum funcționează:

1. Ți se captează atenția prin optimizare neurochimică

Algoritmii nu optimizează pentru adevăr, utilitate sau deliberare democratică sănătoasă. Optimizează pentru engagement – clicks, shares, time spent, comentarii. Aceste metrici sunt proxy pentru activare neurochimică: dopamină, cortizol, oxitocină. Conținutul care generează engagement maxim are caracteristici predictibile:

Provocarea morală: indignarea activează împărtășirea (share-ul) mai mult decât orice altă emoție

Simplificarea tribală: noi vs ei, bine vs rău, fără nuanță

Violarea așteptărilor: șocant, scandalos, contraintuitiv

Validarea identității: confirmi că ai dreptate, că tribul tău e superior

Problema nu este că oamenii produc astfel de conținut – au făcut-o întotdeauna. Problema este că algoritmii îl selectează preferențial pentru distribuire masivă deoarece generează cele mai multe clicks. Un editorial nuanțat de 2000 de cuvinte? 100 de views. Un meme furios sau o știre falsă? 1 milion. Algoritmul „vede” că al doilea funcționează și îl amplifică. Nu „judecă” după conținut și calitatea lui, ci „judecă” după performanța neurochimică.

2. Se creează bule prin filtrare colaborativă

Tu nu vezi ce văd alții. Fiecare utilizator primește un feed personalizat bazat pe ce a funcționat anterior pentru el și pentru oameni similari. Procesul:

Algoritmul observă că reacționezi la conținut despre taxe mărite

Te grupează cu alții care reacționează similar

Începe să-ți servească conținut care a funcționat pentru acel grup

Tu reacționezi, confirmând modelul

Algoritmul devii mai încrezător, servește conținut mai specificCiclul se adâncește

Rezultatul este crearea unor realități personalizate la scară industrială. Nu doar echo chambers organice, ci bule fabricate algoritmic ca să maximizeze engagement-ul fiecărei cohorte. Cineva care a dat click pe un articol despre imigrație va începe să primească progresiv conținut mai extremist pe această temă, nu pentru că există o conspirație, ci pentru că extremismul generează engagement mai mare în cohorta sa.

3. Weaponizarea psihologiei sociale

Algoritmii exploatează vulnerabilități fundamentale ale cogniției umane:

– validare socială artificială – sistemul arată că „10.000 de oameni au share-uit asta” creând impresia de consens. Dar acei 10.000 au fost selectați algoritmic din 3 miliarde de utilizatori. Nu reprezintă nimic despre popularitatea reală, doar că algoritmul a găsit o cohortă care răspunde.

– urgență fabricată – notificările constante creează stări de alertă cronică și e design deliberat pentru a capta atenția.

– validare intermitentă – ca la slot machines, reward-urile (likes, shares) vin impredictibil, creând dependență. Nu e deloc întâmplător, ci e inginerie socială de adicție.

– comparație socială – feed-ul îți arată constant viețile curate ale altora, declanșând anxietate și invidie. Sistemul știe că emotional aroused users = more engagement.

Fact-checking-ul și moderarea conținutului ajută?

Fact-checking-ul presupune că problema este informația falsă. Pe lângă problema de a determina cine poate spune că o informație este falsă sau nu, avem și următoarele probleme:

dezinformarea călătorește pe jumătate din glob înaintea ca adevărul să-și pună pantofii, iar când apare fact-check-ul, narrativul e deja cimentat

fact-checking-ul poate întări convingerile false prin provocarea identității tribale: „elitele încearcă să ne cenzureze” (ceea ce poate fi adevărat, dar cine mai poate determina asta?)

produci fact-check-uri manual în timp ce dezinformarea se produce la scară industrială, amplificată algoritmic

majoritatea manipulării nu cuprinde minciuni verificabile. E selecție, context, framing, emoționalizare.

Cum fact-check-uiești un titlu tehnic adevărat, dar care manipulează pe cei care nici măcar nu apasă pe link pentru a citi conținutul, adică e profund misleading?

Companiile angajează armate de moderatori care șterg conținut pe care-l consideră problematic, dar:

scalarea e imposibilă – 500 de ore de video pe minut pe YouTube fac moderarea umană imposibilă

AI de moderare e limitată – sistemele automate caută keywords, patterns, pe când manipulatorii sofisticați folosesc dog whistles, memes, coduri

arbitrajul e imposibil – cine decide ce e „misinformation”? Pe subiecte polarizate, fiecare tabără vede fact-check-ul celeilalte ca pe cenzură politică (ceea ce nici nu este exclus să fie până la urmă)

nu rezolvă arhitectura – poți șterge postarea, dar algoritmul care a amplificat-o rămâne neschimbat, gata să amplifice următoarea postare

Companiile tech fac moderare suficientă pentru a evita răspunderea publică, dar nu fac suficient pentru a rezolva problema. E „teatru de securitate”, adică aparența protecției fără protecție reală. De ce? Pentru că problema fundamentală e modelul lor de business. Engagement-based advertising necesită optimizarea pentru click-uri. Conținutul polarizator generează cele mai multe click-uri. Moderarea reală ar submina profitabilitatea. DSA nu atinge modelul de afaceri bazat pe publicitate comportamentală care necesită maximizarea angajamentului, nu impune separarea între serviciul de networking social și algoritmul de curare care îl manipulează, nu forțează interoperabilitatea care ar permite competiție reală între abordări diferite de distribuire a conținutului, nu limitează concentrarea puterii care face ca aceste companii să poată absorbi orice costuri de conformitate legislativă ca simple cheltuieli de operare.

Libertatea de exprimare: negativă vs pozitivă

Trebuie să distingem între două concepții ale libertății:

– libertatea negativă care presupune absența interferenței, în sensul că statul nu te oprește să vorbești. Aceasta e libertatea constituțional protejată.

– libertatea pozitivă care presupune capacitatea efectivă de a fi auzit și de a participa în spațiul public. Nu doar că nu ești cenzurat, ci ai posibilitatea reală de a contribui la conversația publică.

Problema cu rețelele sociale algoritmice este că protejează libertatea negativă, dar subminează libertatea pozitivă: poți tehnic să postezi orice (libertate negativă), dar algoritmul decide dacă cineva va vedea (lipsa libertății pozitive).

Un utilizator cu 100 de followers care scrie o analiză nuanțată are libertatea negativă să o publice. Dar algoritmul o îngroapă. Un influencer cu 1 milion care postează un meme primește amplificare masivă. Ambii au aceeași „libertate de exprimare” formal, dar puterea lor discursivă e absurd de diferită. O problemă și mai mare e aceea că algoritmii nu doar filtrează pasiv, ci modelează activ ce tip de comunicare devine vizibilă. Dacă analize nuanțate nu sunt niciodată amplificate, oamenii învață să nu le mai producă. Dacă meme-urile furioase primesc amplificare masivă, producția se deplasează în acea direcție. Rezultatul: libertate de exprimare formală cu uniformitate discursivă crescândă la tipuri de conținut optimizate pentru algoritmi.

Cum putem combate manipularea fără cenzură?

Vestea bună e că există soluții care nu necesită arbitraj de conținut.

1. Transparența algoritmică obligatorie

Nu pot exista secrete comerciale când algoritmii modelează spațiul public, iar aici discutăm despre 3 tipuri de transparență:

– transparența individuală: Fiecare utilizator poate vedea de ce i se arată ce i se arată. „Acest post apare în feed-ul tău pentru că ai dat like la X, Y, Z și utilizatori similari au reacționat la asta.”. Nu e suficient un răspuns vag, ci explicația trebuie să fie suficient de specifică pentru ca utilizatorul să o poată înțelege și contesta.

– transparența agregată: Cercetători independenți trebuie să poată audita cum funcționează algoritmul la nivel de sistem. Ce tipuri de conținut amplifică? Care cohorte primesc ce? Ce bias-uri sunt incorporate?

– transparența manipulării: Platformele trebuie să dezvăluie când conținutul e parte a unei campanii coordonate (cum a fost în cazul atacului asupra mea), când conturile sunt în mod suspect active pe un anumit tip de conținut, când pattern-urile sugerează manipulare.

Critica adusă transparenței ar fi faptul că dezvăluirea algoritmilor ar permite gamificarea, adică manipularea lor de către utilizatori (cam cum am observat că se întâmplă pe TikTok, când se dezvăluie că săptămâna aceasta vor fi promovate mai degrabă postările care conțin o anumită melodie). Cu toate acestea, trebuie să fim conștienți că algoritmii sunt deja gamificați masiv, iar transparența ar proteja și utilizatorii, care ar cunoaște aceste lucruri, nu doar manipulatorii, cum se întâmplă în prezent.

2. Separarea amplificării de monetizare

Business model-ul actual este acesta: compania profită când te ține engaged, deci optimizează pentru engagement. Soluția ar fi separarea celor care amplifică de cei care monetizează. Adică un business model alternativ în care utilizatorii plătesc subscripție pentru acces. Platforma e incentivată să maximizeze satisfacția pe termen lung, nu engagement-ul pe termen scurt. Nu mai e conflict între interesul utilizatorului (informație de calitate) și interesul platformei (clicks maxime).

Critica ar proveni de la cei care vor spune că astfel sunt excluși cei care nu pot plăti. Cu toate acestea, interesul public ar justifica un stat care să ofere abonamente pe modelul bibliotecilor publice. Infrastructura digitală vitală pentru democrație nu poate depinde de advertising-ul manipulativ.

3. Interoperabilitatea forțată și feed-uri multiple

Problema pe care o avem e că suntem închiși în algoritmi proprietari. Dacă nu-ți place feed-ul Facebook, singura opțiune e să pleci complet. Soluția ar fi ca platformele să fie forțate să permită feed-uri alternative. Poți folosi algoritmi alternativi, create de terți, pentru a cura același conținut. La fel cum nu ești forțat să folosești interfața email-ului Yahoo pentru a citi email-uri Yahoo, ci poți folosi orice client de e-mail, același principiu să fie și pentru social media.

În acest fel ai avea competiție între algoritmii de curare creați de diverse entități, nu între network effects. Dacă algoritmul Facebook te polarizează, poți folosi un algoritm alternativ care prioritizează diversitate epistemică, pe același conținut de bază.

4. Controale granulare aparținând utilizatorilor (user-side)

Utilizatorii trebuie să poată controla parametrii algoritmului, nu doar să-l accepte ca black box:

– vreau să văd X% din opinii contrare opiniilor mele

– penalizează conținut emotional intens, prioritizează analiza nuanțată- arată-mi random sampling din tot network-ul, nu doar optimizat pentru mine

– limitează amplificarea virală – nu vreau să văd nimic share-uit de mai mult de 1000 ori

Sunt configurații simple pe care platformele refuză să le ofere, pentru că reduc engagement-ul. Dar dacă utilizatorii controlează parametrii, manipularea devine mult mai dificilă.

5. Viralizarea să fie limitată

Știu că e contraintuitiv, dar viralizarea conținutului e un bug, nu un feature. Distribuția exponențială de conținut fără verificare e rețeta pentru manipulare. Ce am putea face?

– am putea avea cooling off periods, adică postările să nu poată deveni virale instant, ci cu delay de ore sau zile în care pot fi evaluate și contextualizate

– am putea avea prompts de reflecție, de genul “ești sigur că vrei să share-uiești asta? ai citit articolul sau doar titlul?”

– am putea avea limitări de amplificare, adică o postare nu poate fi share-uită mai mult de X ori până nu trece de un review uman sau de o limită de timp, asta încetinind fabricarea consensului artificial

Criticii ar putea susține că asta ar înceti distribuirea unei informații importante sau chiar urgente. Dacă informația ar fi vitală pentru tine, atunci ar fi preluată și de alte surse, cum ar fi mass-media tradițională, deci viteza extremă avantajează manipularea, nu informarea.

6. Diversitate algoritmică obligatorie

Platformele trebuie aleatoriu să injecteze diversitate de informații în feed:

X% din feed-ul tău e random sampling din opinii contrare bulei tale

Y% e conținut nepopular dar de calitate înaltă (judecată de metrici non-engagement)

Z% din feed-ul tău e în directă contradicție cu pattern-urile tale de consum de conținut

Adică să te oblige la diversificarea conținutului la care ești expus. Nu ești obligat să-l citești, îl poți ignora, dar măcar să ai acces la el. De exemplu, in mass-media tradițională dacă prezinți o perspectivă, ar trebui să oferi și perspectiva contrara (a se vedea dreptul la replică). Acesta ar fi echivalentul algoritmic.

În același timp trebuie să fim onești și să recunoaștem că va exista întotdeauna un conflict între curarea necesară pentru un spațiu public funcțional de comunicare și libertatea de exprimare neîngrădită. Nu există soluție perfectă. Există doar compromisuri mai bine sau mai prost gestionate.

A fost experimentată varianta libertății absolute cu 4chan, o platformă complet nemoderată, iar rezultatul a fost faptul că a fost amplificat conținutul toxic, utilizatorii raționali și echilibrați au plecat, rămânând numai extremismul.Este experimentată și curarea totală, adică zero „libertate” în statele în care cenzura pe social media este masivă și unde avem conformism, imposibilitatea exprimării de critici, opresiune. Adică securitate informațională pe costul libertății.

Democrațiile liberale trebuie să găsească zona de centru

Democrațiile liberale trebuie să găsească zona de centru: suficientă integritate epistemică pentru funcționalitate democratică, suficientă libertate pentru disidență și pluralism. Problema actuală nu e că am ales un compromis greșit. E că nu am ales deloc conștient. Am lăsat corporațiile private să decidă arhitectura spațiului public după criterii de profitabilitate, nu de interes democratic.

DSA creează aparența controlului democratic asupra platformelor digitale, generează volumul impresionant de rapoarte și audituri care sugerează supraveghere serioasă, dar lasă neatinsă concentrarea privată de putere algoritmică și modelul economic care face ca manipularea la scară industrială să fie nu doar posibilă, ci inevitabilă și profitabilă. Este o micro-reglementare procedurală care evită confruntarea cu realitatea că nu poți domestici sisteme optimizate fundamental pentru exploatarea psihologiei umane prin simpla obligație de a documenta această exploatare într-un raport anual. Este ca și cum ai încerca să limitezi puterea unui monarh absolut prin obligarea lui să țină înregistrări detaliate ale deciziilor regale și să permită inspectori să observe procesul decizional, fără a introduce niciodată separarea puterilor, fără a crea un parlament care să poată contesta autoritatea regală, fără a fragmenta concentrarea absolută de putere executivă, legislativă și judiciară în mâinile unei singure persoane. Monarhul va ține registre impecabile, va permite observatori în sala tronului, va publica rapoarte anuale despre starea regatului, dar va rămâne în continuare singurul deținător al puterii supreme.

Poate problema fundamentală e că tratăm platformele sociale ca bunuri private, când, de fapt, sunt infrastructură publică. Spațiul public digital e la fel de esențial pentru democrație ca drumurile publice, rețelele electrice, sistemele de apă. Nu ar trebui privatizat și operaționalizat exclusiv pentru profit. Orice soluție naște întrebarea: Cine decide parametrii algoritmilor? Cine stabilește ce înseamnă „dezinformarea”? Cine definește „conținutul de calitate”? Dacă răspunsul e „corporațiile tech”, avem status quo-ul. Dacă răspunsul e „guvernul”, riscăm cenzură de stat. Dacă răspunsul e „experții”, riscăm technocrație nelegitimă. Dacă răspunsul e „utilizatorii individuali”, riscăm haos și manipulare continuă.

Poate răspunsul e stratificat și pluralist:

Nivel constituțional, adică limite fundamentale cu privire la ceea ce le este interzis algoritmilor (ex: nu pot deliberat polariza pentru profit), care să fie stabilite democratic, cu protecții de rang constituțional

Nivel instituțional, adică existența unor organisme independente multi-stakeholder care să seteze standardele generale ale industriei

Nivel individual, adică utilizatorii să controleze parametrii în cadrul constrângerilor de mai sus și pe modelele deja expuse anterior

Orice spațiu e deja „reglementat” – de algoritmi, de business models, de arhitectură tehnică. Nu există neutralitate. Întrebarea nu e „reglementare sau libertate”, ci „reglementare pentru profitul corporatist sau reglementare pentru interesul democratic”. Libertatea de exprimare nu înseamnă că algoritmii trebuie să aibă libertatea de a manipula conținutul după bunul plac.

Provocarea democrațiilor liberale e să construiască arhitecturi digitale care:

– protejează dreptul de a spune orice (conținut)

– dar limitează puterea de amplificare manipulativă (distribuire)

– fără a crea instrumente care pot fi ușor transformat în cenzură

E un echilibru periculos. Dar alternativa, adică cedarea spațiului public algoritmilor optimizați doar pentru profit, garantează moartea lentă a democrației liberale.