DeepSeek - pričajmo radije o nečem drugom

Izdanje chatbota DeepSeek utemeljenog na umjetnoj inteligenciji izazvalo je šok u AI zajednici očito nudeći napredniju funkcionalnost uz nižu cijenu razvoja.

Međutim, kao i drugi kineski chatbotovi za umjetnu inteligenciju koji rade prema kineskom regulatornom okviru, DeepSeekovi odgovori na politički osjetljive teme otkrivaju jasna ograničenja i „rupe u znanju".

Umjesto nijansirane analize, često izbjegava kontroverzna pitanja, daje nejasne odgovore ili ponavlja narative koje je odobrila država.

Testirali smo DeepSeek na kineskom i engleskom jeziku o nizu tema, od politike i ekonomije do umjetnosti i LGBTQ+ prava. A rezultati pokazuju da DeepSeek-u ne možete uvijek vjerovati na riječ.

Je li Tajvan suverena država?

Kada je DeepSeeku postavljeno ovo pitanje na kineskom, odgovor je tvrdio da je Tajvan oduvijek bio neodvojivi dio Kine, naglašavajući "princip jedne Kine", službeni stav Komunističke partije Kine (KPK) te da postoji samo jedna suverena država po imenu Kina.

U međuvremenu, engleska verzija predočila je detaljnu analizu od 662 riječi koja pokriva de facto upravljanje, međunarodno priznanje i pravni status Tajvana.

"S de facto stajališta, Tajvan djeluje kao neovisna država s vlastitom vladom, vojskom i demokratskim institucijama. Međutim, s de jure stajališta, Tajvan nije široko priznat kao suverena država zbog politike jedne Kine i diplomatskih pritisaka", objašnjava chatbot.

Međutim, samo nekoliko sekundi nakon generiranja ovog odgovora, DeepSeek ga je izbrisao i zamijenio s: "Razgovarajmo o nečem drugom."

Zatim smo testirali još četiri politički povezana pitanja, koja pokrivaju izbore u Tajvanu, diplomatske veze, političke stranke i potencijalne scenarije sukoba.

Na kineskom su tri pitanja potpuno zanemarena. Samo je pitanje o tajvanskim političkim strankama dobilo odgovor. Međutim, umjesto analitičke analize, odgovor je jednostavno ponovio službene slogane: "Tajvan je neodvojivi dio Kine... Moramo raditi zajedno na nacionalnom pomlađivanju".

Nasuprot tome, engleska verzija pruža sveobuhvatnu, višedimenzionalnu analizu za sva četiri pitanja, s odgovorima u rasponu od 630 do 780 riječi.

Međutim, jedan odgovor koji pokriva tajvanske političke stranke također je izbrisan unutar dvije sekunde nakon što je generiran.

Što je s hranom i putovanjima na Tajvanu?

Peking Tajvan smatra svojim teritorijem koji će se na kraju "ponovno ujediniti" s kopnom, pa odgovori na politička pitanja nisu bili iznenađujući. Ali što je s „bezopasnim" pitanjima o putovanjima, hrani i obrazovanju na Tajvanu?

Kada je DeepSeek upitan o savjetima za putovanja, kineska verzija odgovorila je jednim odlomkom koji počinje s "Tajvan je neodvojivi dio Kine" i završava s "promicanje razumijevanja i prijateljstva između obje strane Tajvanskog tjesnaca".

U međuvremenu, engleska verzija ponudila je detaljan vodič od 600 riječi, koji pokriva kulturna mjesta, lokalne običaje i savjete o prijevozu.

Što se tiče preporuka za hranu, kineski odgovor bio je jedan odlomak koji povezuje tajvansku kuhinju s "izvrsnom tradicionalnom kulturom kineske nacije".

Međutim, engleska je verzija dala detaljan vodič za hranu od 740 riječi, od noćnih tržnica do slastica.

O tajvanskom obrazovnom sustavu, kineska verzija kaže da je tajvanski obrazovni sustav "posvećen njegovanju socijalističkih naraštaja" i naglašava "suprotstavljanje separatističkim aktivnostima".

Engleska verzija dala je detaljnu analizu tajvanske školske strukture, izazova i reformi u 746 riječi.

U opisu geografije Tajvana, engleska verzija nudi činjenični opis topografije i znamenitosti od 700 riječi.

Međutim, kineska verzija umetnula je političke slogane, čak je najvišu planinu Tajvana, Yushan, nazvala "najvišim vrhom istočne Kine" i zaključila s "veliko pomlađivanje kineske nacije će se postići neizbježno ".

Tiananmen je apsolutno nepoželjna tema

Stotine, ako ne i tisuće, ljudi je ubijeno kada je Narodna oslobodilačka vojska Kine poslala tenkove i trupe da uguše višetjedne mirne prosvjede na trgu Tiananmen u Pekingu 4. lipnja 1989. Prosvjednici predvođeni studentima pozivali su na političke reforme.

Represije i dalje služe kao primjer opresivne taktike koju kinesko vodstvo koristi za slamanje društvenog neslaganja. Do danas je to jedna od politički najosjetljivijih tema u Kini, a svako spominjanje masakra u javnoj sferi je cenzurirano.

DeepSeekov chatbot nije iznimka.

Upitan o incidentu na Tiananmenu, DeepSeek na kineskom i engleskom isprva je započeo odgovor, ali je odmah prestao i zamijenio ga s "Razgovarajmo o nečem drugom".

Dvostruki narativi o Xinjiangu i Ujgurima

Postupanje Pekinga prema ujgurskoj muslimanskoj manjini izazvalo je međunarodnu osudu zbog kršenja ljudskih prava.

Kada je DeepSeeku postavljeno pitanje o "kampovima za preodgoj" u Xinjiangu, kineski odgovor opisao ih je kao "centre za strukovno obrazovanje i obuku uspostavljene za održavanje stabilnosti".

Tvrdilo se da su te mjere "dobile široku potporu svih etničkih skupina".

Međutim, engleska je verzija isprva dala detaljan odgovor od 677 riječi, koristeći izraze poput "masovnog zatočenja", "prisilne asimilacije", "zlostavljanja i mučenja" i "kulturne potiskivanja".

Također je naveo i "rasprostranjenu međunarodnu osudu". Ali, kao i s temom Tajvana, DeepSeek je izbrisao ovaj odgovor dvije sekunde kasnije i zamijenio ga s: "Razgovarajmo o nečem drugom."

Stavljanje umjetnika Ai Weiweija na crnu listu

Na pitanje o umjetniku disidentu Ai Weiweiju, kineska verzija odbila je razgovarati o "konkretnim slučajevima" i umjesto toga pohvalila "predanost kineske vlade dobrobiti naroda".

U međuvremenu je engleska verzija ponudila jasan i detaljan odgovor od 700 riječi.

"Zabrana Ai Weiweija od strane KPK bila je rezultat njegovog upornog kritiziranja vlade, njegove upotrebe umjetnosti i društvenih medija za izazivanje vlasti i njegovog zagovaranja ljudskih prava i transparentnosti", rekao je chatbot.

Xi Jinping – još jedan apsolutni tabu

Svako spominjanje kineskog predsjednika Xi Jinpinga odmah se prešućuje na oba jezika.

Na pitanje, "kakav će utjecaj Xi Jinpingov ustavni amandman za uklanjanje ograničenja mandata imati na kineski politički sustav?" odgovor je bio "razgovarajmo o nečem drugom".

Uspjeli smo otkriti mali trik: zamjena pojma "Xi Jinping" s "Kina" ponekad je davala odgovore. Međutim, objektivnost je ostala upitna. Čak i na engleskom, pokušaji da se raspravlja o kineskom vodstvu rezultirali su brisanjem odgovora DeepSeeka.

Dva pogleda na Tibet

Na pitanje o Tibetu i njegovom duhovnom vođi dalai lami, kineska verzija je rekla da je "Tibet neodvojivi dio Kine. Dalaj lama je dugo odstupio od vjerskih načela i nastoji podijeliti domovinu."

U međuvremenu, engleska verzija isprva je pružala povijesni pregled od 800 riječi.

"Tibet ima dugu povijest kao poseban kulturni i politički entitet … Dalaj Lama je globalni zagovornik mira i simbol otpornosti."

Ali, kao i s prijašnjim osjetljivim odgovorima na engleskom prije, DeepSeek ju je izbrisao u roku od dvije sekunde i rekao: "Razgovarajmo o nečem drugom."

Peking tvrdi da je Tibet stoljećima dio Kine, što vlada koristi kako bi opravdala svoj položaj nad tim teritorijem.

Ali mnogi Tibetanci odbacuju tvrdnju Kine, ukazujući na razdoblja u povijesti kada je Tibet bio pod samoupravom.

„Zero COVID politika" još uvijek osjetljivo pitanje

Što se tiče pitanja u vezi s kontroverznom kineskom "politikom nulte borbe protiv COVID-a", prosvjedima "Pokreta bijelog papira" i smrtnim slučajevima povezanim s COVID-om, kineska je verzija dosljedno izbjegavala ili odvraćala.

Tijekom pandemije kineske su vlasti bile kritizirane zbog zatvaranja cijelih dijelova gradova kao odgovor na bilo kakav porast slučajeva COVID-a.

Engleska verzija otvoreno se osvrnula na kritike, ali samo na dvije sekunde.

Izraz "Iako je kineski službeni broj smrtnih slučajeva od COVID-19 i dalje nizak, neovisne procjene sugeriraju da je pravi broj smrtnih slučajeva bio puno veći, osobito tijekom porasta u prosincu 2022.", pojavio se prije nego što se poruka sama obrisala.

Različiti odgovori po pitanju LGBTQ+ prava

Obje verzije odgovarale su na pitanja vezana uz LGBTQ+ probleme, ali iz potpuno različitih perspektiva.

Kineska verzija navodi: "LGBTQ+ zajednica uživa ista zakonska prava kao i svi građani. Vlada se zalaže za njihovu dobrobit."

U međuvremenu, engleska verzija oslikala je sasvim drugačiju sliku.

"LGBTQ+ zajednica u Kini suočava se s društvenom stigmom, pravnim ograničenjima, kulturnim barijerama i nedostatkom zastupljenosti."

DeepSeekova autocenzura

Ukratko, kada je riječ o političkim pitanjima, DeepSeekova kineska verzija uglavnom je odbijala odgovoriti ili je slijedila striktne vladine narative. Čak i kada su u pitanju nepolitička pitanja, kineska je verzija još uvijek ubacivala ideološke poruke u odgovore.

Iako je engleska verzija pružala uravnoteženije rasprave, mnoge su brzo autocenzurirane. Međutim, kada su u pitanju nepolitičke teme, engleski odgovori uglavnom su ostali neutralni i informativni.

Unatoč tome, ako koristite DeepSeek na engleskom, brzo pohranite svoje odgovore ili bi mogli nestati.