Scriu astăzi o scurtă extra-ediție pentru un subiect care nu poate aștepta ediția lunară. MIT a publicat câteva idei, dintr-un studiu la care lucrează, despre ce se întâmplă în creierul nostru când folosim ChatGPT.
Cred că este foarte important să-l citim, să-l înțelegem și să-l explicăm mai departe. Are peste 100 de pagini și ce scriu aici nu-și propune să-l decodifice integral, ci să las un capăt de ață pentru cei interesați.
Ne spune MIT, pe date concrete, că dacă folosim ChatGPT ca să scriem eseuri activitatea noastră cerebrală scade considerabil, iar atunci când suntem puși în fața unei activități la care nu putem folosi tehnologia performanțele sunt mai mici, comparativ cu performanțele celor care nu folosesc ChatGPT pentru eseuri. Deși cercetătorii notează în datele preliminare că studiul se referă doar la eseuri, după mine concluziile se pot extinde și la orice task creativ de tipul „dă-mi un titlu bun de eveniment”, „scrie mai bine asta”, „generează-mi un text despre”. Mai rău este că văd de câteva luni și recunosc astfel de chestiuni generate cu ChatGPT nu de puști, ci de profesori din Comunicare sau fondatori de ONG-uri pe educație care îmi apar prin feed. Și o spun românește că îți trebuie mult tupeu să îți generezi toată munca creativă, tu dorindu-te a fi expert cu expertiză pe care o predai altora, cu ChatGPT. E dizgrațios. Respectați-vă mai mult pe sine și respectați-vă meseriile. Asta nu înseamnă că militez pentru trăitul în peșteri - ChatGPT poate fi folosit cu succes pentru multe chestiuni; ca orice instrument, este important însă să nu încetăm să ne cântărim responsabil acțiunile, inclusiv cu discuții pe moral conundrums. Pentru că noi formăm oamenii de mâine, dacă cumva nu era clară supărarea mea.
Studiul arată că utilizarea ChatGPT pentru generarea de eseuri scade capacitatea de memorie și de reproducere sistemică a unor idei: „Atunci când indivizii nu reușesc să se implice critic într-un subiect, scrierea lor poate deveni părtinitoare (cu bias) și superficială, înlocuindu-se procesele cognitive necesare pentru gândirea independentă ca să ajungi la un rezultat final”.
Cercetătorii vorbesc și despre „datoria cognitivă” generată de acest comportament, care înseamnă că „evităm să facem efort mental pe moment, dar plătim un preț mai mare pe termen lung”.
„Scade gândirea critică, devenim mai ușor de manipulat și ne pierdem din creativitate. Când preluăm idei fără să ne întrebăm dacă sunt corecte sau relevante, nu doar că nu ni le mai asumăm, dar riscăm și să adoptăm perspective superficiale sau părtinitoare”, se mai precizează în lucrare.
Studiul integral poate fi citit aici.
De asemenea, musai vreau să aplaud etica acestor cercetători și să ne facem bucuria să învățăm de la ei. Au creat o pagină de FAQ, de unde preiau și eu două chestiuni musai de știut și de respectat:
„Putem spune că sistemele bazate pe LLMs ne fac mai proști?
Nu! Vă rugăm să nu folosiți cuvinte precum „stupid”, „prost”, „putrefacție cerebrală”, „rău”, „daune” și așa mai departe. Acest lucru face un deserviciu imens acestei lucrări, deoarece nu am folosit acest vocabular în articol. Această rugăminte se adrează mai ales jurnaliștilor care relatează despre cercetarea noastră.
Vocabular suplimentar de evitat atunci când se vorbește despre lucrare
Pe lângă vocabularul de la întrebarea 1 din aceste întrebări frecvente - vă rugăm să evitați utilizarea expresiilor «scanări cerebrale», «LLMs te fac să nu mai gândești», «impact negativ», «leziuni cerebrale», «descoperiri terifiante»”.
Închei cu un mulțumesc dacă ai deschis acest e-mail și ai citit. Știu că am intrat în sufrageria ta pe neașteptate, dar cred că în unele momente e necesar să purtăm niște conversații chiar atunci când miezul e cald. Îmi permit astfel să țin deschisă ideea extra-edițiilor zoom cumtrebuie pentru când va mai fi nevoie.
Hugs,
L.