[Update: The English version of this story is available on LinkedIn]

Ce legătură e între modul în care am evoluat ca oameni, revoluția tehnologică si fake news: cum am ajuns să transformăm adevărul într-o noțiune relativă?

În ultimul an, m-am ocupat ceva mai mult de studierea fenomenul fake news si a efectelor sale. Las aici câteva dintre concluziile la care am ajuns, pe scurt – da, aşa arată varianta scurtă 🙂

Pentru început, iată nivelul la care s-a ajuns:

Un asemenea grad de spălare pe creier are o explicație complexă – ține atât de tehnologie si de noile modele de business din digital media, cât si de sociologie, psihologie si chiar antropologie – pentru că stirile false nu au apărut o dată cu Facebook, ci în momentul în care acum 150-250 de mii de ani unul dintre primii Homo Sapiens s-a întors cu niste povesti super interesante de la vânătoare 😉

Dar să începem cu situația la zi.

I. Conceptul cool, la ordinea zilei în digital & tech: “disruption”

Cam la orice discotecă de la sat, oras sau mare – unde, prin discotecă, înțelegem conferință de digital & tech – singurul cuvânt care se aude mai des si mai tare decât basul si cu toba mare este “disruption“.

Fără un echivalent 1:1 în limba română, “disruption” descrie în acest context modul în care tehnologia, big data, digitalul au “disrupt” si “disrup” (scuze pentru abuzul lingvistic) industriile tradițonale.

Slide-ul “clasic” care susține povestea asta arată, de obicei, cam asa:

Ce legătură are asta cu stirile false?

Principalele companii care au revoluționat modul în care consumăm conținut online sunt, evident, Google si Facebook. La fel cum Airbnb a “disrupt” industria hotelieră fără să dețină hoteluri sau Uber a schimbat taximetria fără să dețină masini, Google si Facebook au modificat fundamental două lucuri:

  • Modul în care ajungem si consumăm stiri, fără a avea drept mijlocitori redacții, editori sau jurnalisti
  • Felul în care publicitatea îsi găseste receptorii ideali, fără a mai fi necesară negocierea directă dintre oameni (client vs deținător media)

Automatizarea e cheia eficienței, de aceea Google si Facebook au randamente uluitoare de 1.4-1.6 milioane de dolari venit per angajat (la nivel anual): unul dintre motivele performanței – dincolo de capacitatea lor de inovație admirabilă – e că se bazează din ce în ce mai puțin pe oameni si cât mai mult posibil pe algoritmi/roboți.

Cu alte cuvinte, atât în ceea ce priveste distribuția de conținut, cât si în ceea ce priveste generarea de venituri din advertising (adică distribuția de mesaje publicitare), “inutilul” si costisitorul layer uman profesionist din zona de execuție a dispărut si/sau s-a redus radical.

Altfel spus: accesul la audiență s-a democratizat si, în mare parte, robotizat.

De aceea, orice prost carismatic cu un cont de Facebook sau YouTube poate deveni faimos si se poate intitula, dacă vrea, “jurnalist” – fără să mai fie nevoie să respecte complicatele standarde profesionale impuse de ceea ce era pe vremuri jurnalism “by the book” – si orice individ poate să cumpere direct publicitate pe platformele globale, fără să mai aibă discuții inutile legate de calitatea si veridicitatea mesajelor, target group si prețuri cu alți oameni de vânzări.

Oricine poate atrage atenție sau genera trafic poate să si facă bani din asta. Filtrul moral e vag, tot ce contează e cantitatea de trafic si, deci, numărul de date adunate – date care permit campaniilor să isi găsească publicul, tot în mod automatizat/programmatic.

(La urma urmelor, nu trebuie să ai două facultăți, gândire critică sau să fii foarte atent la etichetă când cumperi un borcan cu murături, o cutie de detergent sau medicamente. Din contră, companiile mai puțin responsabile sunt fericite cu un consumator needucat, care nu pune probleme si nu are nevoie de mii de explicații înainte de a scoate banul din buzunar. The same logic applies in politics – wink, wink).

Eficient, cu siguranță. Dar “sănătos” pe termen lung?

Dispariția filtrului rațional uman si înlocuirea lui cu algoritmi încă imaturi generează, zi de zi, probleme din ce în ce mai serioase: “stirile” îndoielnice ajung direct si nefiltrat la public si mesajele publicitare, la fel, ating micro-audiențe care erau greu de coagulat înainte.

Algoritmii gândiți pentru a-i aduce împreună pe iubitorii de briose cu gem de zmeură din întreaga lume îi adună acum, folosind aceeasi infrastructură si aceleasi mecanisme, si pe cei care au alte “pasiuni”. Cum ar fi, de exemplu, ideea exterminării unei minorități sexuale sau religioase?

Răspunsul (neoficial) al giganților din tech la această problemă nu a depăsit, până acum, stadiul de “Oops! Shit happens…“. Sau scuze, gen:

Asadar, prima concluzie este de ordin pur tehnic: fără a crede în teoriile conspiraționiste, cum că a fost totul gândit în direcția asta, cred mai degrabă că pur si simplu giganții din tech nu au evaluat corect impactul negativ al unei automatizări gândite, logic, doar din punct de vedere al eficienței.

Un exemplu relevant din ciclcul “inovație de dragul inovației” e VoCo – experimentul poreclit “Photoshop Audio“, făcut de cei de la Adobe (un algoritm care, din 20 de minute de înregistrare a unei voci, poate replica toate tonurile si inflexiunile sunetului respectiv si, deci, poate face pe oricine să pară că a spus orice).

Iată un demo:

Algoritmul e gândit mai ales pentru industria de gaming, voice over pentru documentare, stiri sau reclame dar e evident cât de fericiți ar fi producătorii de fake news sau experții în manipularea maselor să poată beneficia de această noua jucărie (dacă nu o au deja).

Granița dintre ficțiune si realitate devine, prin tehnologie, total neclară.

De exemplu, poți să îl faci pe Obama să spună ce vrei tu:

Cum si de ce se întâmplă asta, (nu doar) în opinia mea?

Focusați strict pe rezolvarea unui challenge tehnic, pasionați de programare/automatizare, însă nu foarte preocupați de înțelegerea complexității naturii umane si a mecanismelor care o guvernează, inginerii si programatorii nu anticipează corect, uneori, modul în care munca lor va fi folosită în slujba răului.

Sau, pur si simplu, se îndrăgostesc de o idee si nu se lasă până nu o realizează. Pentru a demonstra că se poate.

Asa s-a ajuns ca obsesia pentru “disruption” să nu domine doar industria hotelieră, taximetria sau comerțul. Si nu a “disrupt” doar jurnalismul “old school”, care presupunea un filtru moral aplicat, uneori, de o întreagă redacție înainte de a se publica ceva, ci a generat un fenomen mult mai grav:

Se schimbă percepția publicului legată de ce înseamnă de fapt adevăr, ca si concept în sine.

NewsFeed – nume dat unei însiruiri de postări haotice, majoritatea fără nici o legătură cu ce înseamnă News, de fapt – a schimbat înțelegerea asupra a ce înseamnă o stire (si, subliminal, ce înseamnă adevăr).

Impactul e cu atât mai îngrijorător în țări precum România, unde educația civică si media e firavă, iar tradiția consumului de stiri din surse profesionale abia începuse să se formeze înainte să ne lovească din plin tsunami-ul fake news.

Una e să fi trăit în SUA, unde – de exemplu – The New York Times apare încontinuu din 1851 încoace, într-un regim (încă) democratic, alta e să te formezi din punct de vedere al culturii informaționale în România, unde presa de calitate abia apucase să prindă cheag la începutul anilor 2000 – înainte să fie acaparată de interese personale si/sau politice, să fie lovită apoi de criza financiară globală si făcută praf, în cele din urmă, de efectul Facebook & Co.

Altfel spus, dacă până si în State a devenit posibilă afirmația “If Jesus Christ gets down off the cross and told me Trump is with Russia, I would tell him, ‘Hold on a second. I need to check with the President!”, ce pretenții să mai avem noi?

Cam asa stăm din punct de vedere social, tehnic si business (da, fake news e o industrie, a devenit un ecosistem complet, cu playeri, sistem propriu de fake ads and so on – voi reveni separat pe această temă. În plus, Facebook si Google fac eforturi insuficiente să “deratizeze” mediul, contribuind chiar indirect la finanțarea “industriei” fake prin tooluri de advertising si soluții de monetizare automatizate care, adesea, sunt mult prea permisive cu standardele pe care le cer producătorilor de trafic la kil).

Bun. Dar dacă tot am rămas mai puțini si ați ajuns cu lectura până aici, să trecem la nivelul următor: partea antropologică si psihologică.

II. Iubim povestea mai mult decât adevărul: realitatea e, adesea, plictisitoare si total neinteresantă

Să începem partea a doua cu gândurile a trei oameni destepți: Harrari, Twain si Asch. Un antropolog, un scriitor de ficțiune si un psiholog care nu cred că s-ar fi asteptat vreodată să apară împreună în acelasi articol (ci, maxim, să fie începutul unui banc pentru intelectuali).

Yuval Harrari scrie, în Sapiens (recomand), că elementul esențial care a contribuit la evoluția speciei umane este fascinația noastră pentru mit si ficțiune, precum si abilitatea de a crea si de a crede în povesti (chiar când evidența le contrazice).

“The truly unique trait of Sapiens is our ability to create and believe fiction. All other animals use their communication system to describe reality. We use our communication system to create new realities.”

“Humans have an amazing capacity to believe in contradictory things. For example, to believe in an omnipotent and benevolent God, but somehow excuse Him from all the suffering in the world.”

Harrari consideră că exact această capacitate a făcut Homo Sapiens să învingă, treptat, celelalte specii umanoide si să cucerească toată planeta: capacitatea de a crede în mituri, în povesti, in idealuri si, în final, în scopuri comune care pot face indivizi care nu se cunosc să acționeze în aceeasi directie.

Pe de altă parte, Mark Twain se crede că ar fi spus un alt fapt tragi-comic, si anume că uneori adevărul strică o poveste frumoasă. Ceea ce, să recunoastem, cam asa e: adevărul e, adesea, plictisitor – asa că avem tendința de a “cosmetiza” lucrurile, de a genera conspirații sau, măcar, de a face întâmplarea ceva mai interesantă decât a fost, de fapt.

E în natura noastră, de la omul cavernelor încoace când seara, după vânătoare, se spuneau povesti usor “dramatizate” în jurul focului. <We’re natural born storytellers>. Avem imaginație, iubim ficțiunea. E în ADN-ul nostru.

Last but not least, după niste ani de studiu si experimente, psihologul Solomon Asch a emis paradigma care îi poartă numele si care spune, pe scurt: “A person’s opinions and actions are influenced by the actions and opinions of the majority of a group“.

(Ghiță Ciobanul ar fi numit asta, fără prea multe studii, “spirit de turmă” – dar să trecem peste).

Asadar, ca oameni, iubim ficțiunea, vrem să credem în povesti mai mult decât în adevăr, si suntem usor influențabili de cei din jur. Iată contextul perfect pentru noua industrie!

Ca si în multe alte cazuri, si în cazul fake news tehnologia nu a făcut însă altceva decât să amplifice si agrege la scară globală o trăsătură umană deja existentă.

Dar cât de greu si de rapid se pot însă genera curente de opinie în online? Iată un exemplu:

Cei de la  Social Chain – o rețea si agenție social media cu media de vârstă pe la 25 de ani – au prezentat la iCEE.fest, în 2017, un studiu de caz care mi-a dat de gândit (puteți vedea aici sau in aplicație prezentarea integrală – asta dacă aveți un bilet deja pentru 2018 sau ați fost la festival anul trecut).

Foarte pe scurt, oamenii au inventat (pentru un client, târgul de fotbal SoccerEx) un jucător inexistent: Rex Secco. Prin simpla distribuire a zvonului că un foarte tânăr jucător necunoscut e vânat de Arsenal în vederea achiziției sale cu o sumă amețitoare, în social media s-a creat o întreagă dezbatere (care a ajuns, evident, si în presă).

Au apărut grafice si clasamente:

S-a dezbătut subiectul:

Si, apoi, inevitabilul s-a produs. Au apărut băieții destepți, care cunosc problema în detaliu si le explică si altora cum stă treaba:

Ce e cu adevărat scarry: tweet-ul din imagine a apărut la doar 33 de minute după “breaking news”!

Da, cam atât de rapid se pot genera percepții, online (tot de aceea se întâmplă ca majoritatea crizelor de PR să se amplifice pentru că reacția companiilor e, adesea, extrem de tardivă).

Ca să generezi o percepție, via social media, trebuie să ții cont doar de câteva elemente: idee, contex, poveste si detalii care să fie (sau să pară) credibile. Cu siguranță, cu strategia corectă (si niste bani), vei găsi un număr suficient de mare de oameni care să genereze “adevărul”.

Vorba Ivankăi Trump:

“Perception is more important than reality. If someone perceives something to be true, it is more important than if it is in fact true.” 

Fata lu’ tata n-a spus asta la beție, ci a scris-o într-o carte. Poți s-o contrazici?

III. Oamenii sau roboții: cine amplifică efectul fake news?

Bun. Am lămurit, până acum, că nici roboții/algoritmii si nici oamenii nu sunt perfecți încă.

Pentru ultima parte, să încercăm să lămurim o ultimă dilemă: unde e problema mai serioasă, la om sau la masinăriile pe care omul le-a creat?

În ziua premergătoare alegerilor din SUA, suma totală a reach-ului unor fake news evidente, de tipul Papa îl susține pe Trump, a depăsit cu mult sursele legitime de informare.

Pe scurt, situația se vede în graficul de mai jos (pe larg, aici).

Reflexul ar fi să dăm vina pe algoritmii “defecți” din social media. Însă realitatea pare că nu e prea flatantă pentru noi: pare-se că roboții iau decizii relativ corecte, în prima fază, însă oamenii sunt cei care amplifică atât de mult tâmpenia încât, în cele din urmă, se prostesc si roboții.

În sensul acesta un studiu amplu si solid a fost făcut public, acum câteva zile, de MIT (Massachusetts Institute of Technology).

Cercetătorii Soroush Vosoughi, Deb Roy si Sinan Aral au studiat 126 de mii de zvonuri false sau mixate (parțial false, parțial adevărate) distribuite de peste 4.5 milioane de ori de circa 3 milioane de oameni pe Twitter între 2006 si 2017.

Iată câteva concluzii legate de efectul devastator al realității paralele create si amplificate, în primul rând de oameni, cu ajutorul social media/tehnologiei:

  • Stirile false din domeniul politic sunt cele mai răspândite, se distribuie cel mai rapid si au un indice de viralitate net superior celorlalte categorii populare între cei care gustă genul (celebrități, business, terorism si războaie, stiință si tehnologie, divertisment si dezastre naturale).

  • Stirile false ajung la mai mulți oameni decât faptele reale: reach-ul “cascadelor” de tweet-uri si re-tweet-uri false atinge 100.000 de oameni în vreme ce adevărul, în acelasi timp efectiv, abia atinge 1.000: cum s-ar spune, senzaționalismul creat “în laborator” e infinit mai interesant decât ce se întâmplă în viața reală.
  • Algoritmii răspândesc în mod egal informațiile, evident fără a putea discerne care sunt reale si care nu, dar oamenii sunt cei care prin reacția mult mai rapidă si mai entuziastă la ficțiune generează viralitatea pe care, apoi, roboții o amplifică si mai abitir (interpretând corect, la rece, că e un subiect de interes)
  • Cascadele de tweets si re-tweets legate de informații false se duc până la 19 niveluri sau “grade de conexiune” depărtare de propagatorul inițial, adevărul depăseste cu greu 6-7
  • Stirile politice false ajung mai “adânc” si ating masa critică de 20.000 de persoane (un soi de “tipping point” de la care se poate declansa viralitatea, de 3 ori mai repede decât stirile reale)
  • Stirile false sunt cu 70% mai “sexy”din punct de vedere al apetitului pentru “share” decât adevărul… etc.

Studiul – care e mult mai amplu si se poate descărca integral de aici – oferă si alte statistici si explică si mecanismele mai fine din cauza cărora oamenii dau share unor astfel de informații: în principiu, pentru că vrem să fim “cool”, să pară că stim primii ce alții nu stiu sau nu înțeleg (si, evident, e mai probabil să “afli” primul ceva ce nu există, nu?) si, în general, ca să părem “smecheri”, superiori. Alte explicatii valide, aici.

Ironic, inteligența artificială nu face decât să amplifice si expună la maxim prostia naturală, umană.

Iar “băieții destepți ai internetului” profită de asta din plin – fie că vorbim de cei inofensivi, care fac si ei un ban cinstit (vorba vine) exploatând toleranța platformelor globale legată de calitatea conținutului pe care îl rulează în sistemele automatizate de advertising (tip Google Display Network sau Facebook Audience), fie că e vorba de cei mai periculosi, implicați în operațiuni mai ample, care vizează generarea unor curente de opinie cu mize socio-politice majore.

Altfel spus, într-un nou context global fără precedent (peste 4 miliarde de oameni conectați online din 7.5 miliarde în total), se exploatează în scop financiar si propagandistic o meteahnă care e, paradoxal, si o calitate unică a speciei noastre: pasiunea pentru mit, ficțiune si poveste.

Din toate motivele expuse mai sus – dar si din alte cauze despre care voi scrie, poate, separat – e clar că lupta adevărului (sec si adesea plictisitor) cu tehnologia nu se va încheia în curând.

Miza e uriasă iar câstigătorul, incert. Mai ales câtă vreme giganții digitali globali, care au crescut monstrul care ne sufocă acum rațiunea, nu par foarte grăbiți (sau nu pot încă) să-si ucidă progenitura.

#VaUrma

Author: Dragos Stanca. Founder iCEE.fest. Managing Partner ThinkDigital. Partner TDG.

⋅ BUSINESS ⋅ 37 comments