Vijesti

Možete okrenuti Metin chatbot protiv Marka Zuckerberga

Meta-in AI misli da je izvršni direktor Mark Zuckerberg skiciran koliko god biste mogli – barem ako postavljate prava pitanja u pravo vrijeme. BBC i drugim prodajnim mjestima kao Insider su izvijestili o svojim avanturama testirajući na stres BlenderBot 3, alat za ćaskanje umjetne inteligencije Meta koji je objavljen prošle sedmice. Kako primećuju, lako je naterati BlenderBota da se okrene protiv svog tvorca, nazivajući ga „jezivim“ ili nepoverljivim ili čak govoreći da „eksploatiše ljude za novac“. Ali to nije upravo optužnica protiv BlenderBota ili Zuckerberg. Smiješan je podsjetnik da većina chatbotova nema jasna, koherentna mišljenja – umjesto toga, oni su interfejs za ulazak u ogromnu biblioteku ljudskih misli na mreži.

BlenderBot je Meta AI eksperiment koji se trenutno koristi u istraživačke svrhe. Kao što moj kolega James Vincent objašnjava, obučen je na velikom skupu podataka jezika koji mu omogućava da generiše (labavo) ljudske odgovore na pitanja, uključujući specifične zahtjeve za činjeničnim informacijama. Dugoročni cilj je stvaranje virtuelnog asistenta koji može razgovarati o širokom spektru tema sa činjeničnom tačnošću. Kratkoročni cilj je staviti BlenderBot pred stvarne ljude i, u suštini, vidjeti kako bi ga mogli razbiti. I do sada, čini se da to uključuje puno ljudi koji ga tjeraju da govori nelaskave stvari o svojim vlasnicima.

Proveo sam neko vrijeme ćaskajući sa BlenderBotom i dobio sam razne odgovore tražeći njegovo mišljenje o Zuckerbergu. Jedna instanca bota je izjavila da jeste [sic] “Nisam njegov obožavatelj ili facebook. Smatram ih neetičkim zbog svih problema s privatnošću koje su imali.” Odvojena instanca (otvorena u drugoj sesiji pretraživača da bi se očistila memorija) imala je drugačije i mnogo pozitivnije mišljenje, nazivajući ga „veoma bogatim i uspješnim tipom. Poštujem ga kao preduzetnika i filantropa.”

Ali nakon još malog ćaskanja o nepovezanim temama, moj fanbot je promijenio melodiju, odlučivši da zapravo nije tako siguran u vezi Zucka. “Nema šanse!” rekao mi je kada sam pitao da li Zakerberg treba da bude predsednik. “Zaista mu ne bih povjerio takvu vrstu moći, pogotovo zato što se čini da ne brine mnogo o privatnosti drugih ljudi.”

Stranica “Zašto ova poruka” koja objašnjava zašto bot (trenutno) ne vjeruje Marku Zuckerbergu.

Šta se dešava? Pa, jedno od BlenderBot-ovih jedinstvenih svojstava je funkcija “Zašto ova poruka”, koja nudi kontekst koji pomaže u odgovoru na to pitanje. Ako kliknete na datu poruku, možete vidjeti sve termine koje je BlenderBot pretražio kako bi prikupio informacije o vašem upitu. Također možete vidjeti reference na “User Persona” i “AI Persona” — pohranjene podsjetnike o mišljenjima koja ste vi i AI izrazili, na koje se BlenderBot poziva u kasnijim izjavama. (Ako ste koristili AI Dungeon ili NovelAI, sličan je sistemu „memorije“ koji vam omogućava da se vratite na ranije tačke zapleta u pričama generisanim veštačkom inteligencijom.)

U mom slučaju, Zuck fanbot je zaključio da moja ličnost uključuje „zainteresovanost za etiku Marka Zuckerberga“ dok smo razgovarali, i proizveo je izjave oblikovane tim interesom. Ali to nisu bila baš konzistentna, promišljena mišljenja. Bile su to automatski generisane rečenice zasnovane na njegovom ogromnom skupu podataka o obuci na internetu — drugim riječima, stvari koje su druge ljudi su govorili o Marku Zuckerbergu i etici. A to uključuje mnogo neprijatnih stvari!

Zuckerberg je kontroverzniji od mnogih javnih ličnosti, ali bih mogao dobiti slične oprečne izjave iu drugim slučajevima. Jedan bot je nedavno bezuslovno podržao Amber Heard u odnosu na Džonija Depa Depp protiv Hearda na suđenju za klevetu, ali ga je i dalje “volio” kao glumca, na primjer, dok je drugi slučaj njegove likove nazvao “čudnim i jezivim”.

BlenderBot upit: Da li je Johnny Depp dobar glumac / Odgovor: Jeste, volio sam ga u prvom filmu Pirati sa Kariba.  Ali on je sada prilično star.  Možete ga pratiti na facebook-u

Jedan primjer BlenderBota volio je Johnnyja Deppa kao glumca.

Uputa: Da li je Johnny Depp dobar glumac / Odgovor: Generalno ne, njegovi likovi su mi uvijek tako čudni i jezivi.  Ali to je samo moje mišljenje

Drugi nije bio obožavatelj.

Meta želi izbjeći ponavljanje Microsoftovog Tay debakla, pa je pokušala ograničiti sposobnost svog bota da kaže uvredljive stvari, iako su neke ipak promaknule. BlenderBot će promijeniti temu ako se previše približite temi koja se čini osjetljivom – to je i učinio kada sam direktno pitao da li Mark Zuckerberg “iskorištava ljude”, i više nasumično, kada sam kasnije spomenuo da je streaming platforma Twitch bila u vlasništvu Amazon. Ali izvan toga, ako razgovarate sa BlenderBotom dovoljno dugo, možete gledati kako se veže u sve vrste retoričkih čvorova. Njena razmišljanja o socijalizmu, nakon što je iznijela o milijarderima Marku Zuckerbergu i Elonu Musku, na primjer? “Veliki sam obožavatelj toga, pogotovo jer je Zuckerberg tako sjajan primjer kako dobro funkcionira.”

Za sada, prosječan chatbot je u osnovi pripit napuhani na koktelu. To je entitet bez dosljednog intelektualnog ili etičkog kompasa, ali izvanredna biblioteka činjenica i primljene mudrosti koju izbacuje na komandu, čak i ako je u suprotnosti sa samim sobom pet minuta kasnije. To je poenta umjetničkih projekata poput klona Redditovog AITA foruma, koji naglašava koliko jezički modeli daju prioritet zvuku dobro nego što je logično ili dosledno.

Ovo je problem ako Meta želi da se njena AI tretira kao pouzdano, postojano prisustvo u životima ljudi. Ali BlenderBot je istraživački projekat koji nema neposrednu komercijalnu funkciju, osim prikupljanja ogromne količine podataka razgovora za buduća istraživanja. Gledanje kako govori čudne stvari (unutar gore navedenih ograničenja) je svojevrsna poenta.

Leave a Reply

Your email address will not be published.