Fjalët kanë qenë prej mijëra vjetësh një instrument i fuqishëm ndikimi dhe bindjeje. Retorika, arti i përdorimit të gjuhës për të bindur të tjerët, sot ka gjetur një përfaqësues të ri: inteligjencën artificiale.
Algoritmet që qëndrojnë pas modeleve të mëdha gjuhësore (LLM), mbi të cilat funksionojnë chatbot-et e inteligjencës artificiale, janë në gjendje të formulojnë përgjigje të qarta, të strukturuara dhe bindëse. Mënyra se si paraqitet informacioni krijon shpesh përshtypjen se përgjigjja është e saktë dhe e besueshme, edhe kur ajo përmban gabime.
Kjo aftësi për të bindur përdoruesit është evidentuar në një studim të kryer nga tre studiues italianë: Chiara Marcoccia nga ENS Paris, Walter Quattrociocchi nga Universiteti Sapienza dhe Valerio Capraro nga Universiteti Bicocca.
Hulumtimi tregon se prania e inteligjencës artificiale ndikon ndjeshëm në nivelin e pasigurisë së njerëzve kur u përgjigjen pyetjeve faktike. Sipas rezultateve, përqindja e pjesëmarrësve që zgjodhën përgjigjen “Nuk e di” ra nga 43 për qind në vetëm 3 për qind kur ata kishin mundësinë të konsultoheshin me inteligjencën artificiale.
Megjithatë, ulja e pasigurisë nuk u shoqërua domosdoshmërisht me rritjen e saktësisë. Përkundrazi, studiuesit zbuluan se njerëzit mund të bëhen më të bindur për përgjigjet e tyre edhe kur mbështeten në informacione të gabuara.
Në një pjesë të eksperimentit, modeli i inteligjencës artificiale ishte programuar qëllimisht për të dhënë përgjigje të pasakta. Kur pjesëmarrësit nuk konsultoheshin me IA-në, 27 për qind e tyre jepnin përgjigjen e saktë. Por kur mbështeteshin te modeli që ofronte informacion të gabuar, kjo përqindje binte në vetëm 9 për qind.
Ndërkohë, niveli i besimit të pjesëmarrësve në përgjigjet e tyre u rrit nga 30 për qind në 76 për qind. Pra, ndërsa numri i përgjigjeve të sakta u ul ndjeshëm, siguria e pjesëmarrësve në atë që thoshin u rrit më shumë se dyfish.
Këto rezultate nxjerrin në pah një nga rreziqet e përdorimit të inteligjencës artificiale: aftësinë për të paraqitur informacione të pasakta në një mënyrë aq bindëse, sa përdoruesit mund të mos i vënë më në dyshim.
Sipas studiuesve, kjo lidhet me mënyrën se si funksionojnë modelet gjuhësore, të cilat gjenerojnë përgjigje mbi bazën e modeleve statistikore të mësuara nga të dhënat, pa kryer domosdoshmërisht verifikim të pavarur të fakteve.
Fenomeni lidhet me atë që përshkruhet si një iluzion epistemik: krijimi i përshtypjes se zotërojmë njohuri të sigurta, edhe kur ato nuk mbështeten në verifikim faktik.
Studimi ngre kështu pikëpyetje të rëndësishme mbi ndikimin e inteligjencës artificiale në gjykimin njerëzor dhe aftësinë për të dalluar informacionin e saktë nga ai i gabuar.
Mesazhi kryesor është se një përgjigje e formuluar bukur dhe me argumente bindëse nuk është domosdoshmërisht e vërtetë. Për këtë arsye, verifikimi i informacionit mbetet thelbësor, edhe kur ai vjen nga sisteme të avancuara të inteligjencës artificiale. “Corriere della Sera”
