Ceva despre Alice și Bob

Boții cu abilități lingvistice creative au acaparat imaginația populară. De asemenea, au reaprins anxietățile legate de o robocalipsă

Alice și Bob, Alice și Bob Facebook, roboți Facebook, roboți cu inteligență artificialăAlice și Bob, roboții Facebook care au câștigat infamie din cauza unei deficiențe neprevăzute în logica de programare, fac parte dintr-un experiment pentru a construi mașini de negociere. C R Sasikumar

Internetul a fost în flăcări cu titluri dramatic încărcate de condamnare, care proclamă că Facebook a trebuit să scoată din priză roboții de inteligență artificială (AI) necinstiți care au dezvoltat un limbaj propriu, în care purtau conversații inumane de private. Citesc ca niște teaser-uri pentru o globocalipsă Terminator, care este cel mai rău coșmar al primatelor care folosește unelte – care trebuie înlocuit de propria sa creație, mașina.

Realitatea este mai puțin dramatică, dar mai incitantă. Boții sunt agenți autonomi programați inițial pentru a efectua sarcini de menaj pe canalele de comunicații sau pentru a încerca să treacă testul Turing. Ei te pot înscrie, te pot da afară dacă te comporți greșit, pot menține camerele de chat deschise când nimeni nu este acasă, pot oferi informații și se mascadă în oameni. Pe sistemul Internet Relay Chat, botul Eggdrop a fost favoritul din toate timpurile.

Nepoții unor astfel de roboți de îngrijire sunt încorporați în agenții de căutare și mesagerii moderni și au capabilități AI. Ei vorbesc cu utilizatorii mai degrabă ca un om, răspund la întrebările de rutină și oferă sfaturi. Dacă telefonul dvs. pare să vă cunoască mintea și trage lucrurile potrivite fără a fi rugat, o mare parte din meritul trebuie să revină boților care lucrează în culise. La fel ca oamenii, boții pot învăța din experiență și sunt destinați pentru lucruri mai mari în situații din lumea reală.

Alice și Bob, roboții Facebook care au câștigat infamie din cauza unei deficiențe neprevăzute în logica de programare, fac parte dintr-un experiment pentru a construi mașini de negociere. Pur și simplu își dădeau seama cum să împartă un set de obiecte, cum ar fi mingi, astfel încât niciuna dintre părți să nu se simtă înșelată. În timp ce negocia, Alice a făcut declarații inițial de neînțeles, cum ar fi, Bilele au zero pentru mine pentru mine pentru mine pentru mine pentru mine pentru mine... Și au urmat titlurile înfricoșătoare.

Învățarea este condusă de stimulente, așa cum știu profesorii și părinții. În acest caz, a fost definit sistemul de recompensă al exercițiului — o mai bună împărțire și satisfacție reciprocă, esența negocierii. Dar nu a existat niciun stimulent pentru roboții să continue să comunice în engleză, care este o limbă notoriu ilogică. Așa că au alunecat într-un argot simplificat, mai eficient, asemănător neolingvului, care nu este chiar englezesc, dar nu de neînțeles așa cum se anunță.

Declarația lui Alice, care a fost interpretată greșit ca o afirmație a independenței mașinii, a indicat doar consternarea că a fost schimbată scurt (au zero), și fiecare pentru mine a reprezentat un obiect pe care l-a cerut. Ea făcea exact treaba pentru care a fost programată: târguiind la fel de greu ca un negustor în Marele Bazar din Istanbul. Și dacă a constatat că englezii reginei i-au împiedicat, nu era singură. Multe rase din fostele colonii au simțit că limba stăpână împiedică comunicațiile în comunitățile lor.

Doar negociatorii umani profesioniști trebuie să fie îngrijorați dacă giganții din Silicon Valley investesc în programe de negociere. Teroriştii şi participanţii la summit ar trebui să se teamă de pensionare, pentru că în situaţii de ostatici şi tranzacţii internaţionale, ei se pot găsi în faţa unei maşini implacabile, care este mult mai inteligentă decât Deep Blue, supercomputerul IBM care l-a provocat pe campionul de şah Garry Kasparov în 1996.

Nevoia de a dezvolta limbi private este o trăsătură foarte umană. Înainte ca bursele să fie computerizate, agenții de bursă de pe platforma de tranzacționare comunicau ofertele cu semnale de mână care erau de neînțeles pentru alții. Timp de secole, forțele de ordine au fost nedumerite de cântecele hoților, limbajele artificiale ale condamnaților, care sunt farfurii pentru temnicerii lor. Printre criminalii vorbitori de engleză din secolul 20, cuvântul aiurea arkitnay însemna: Taci, cineva ascultă cu urechea. În India, William Henry Sleeman a studiat Ramaseeana, cântarea lui Thuggee, și a publicat un vocabular în 1836. Una dintre cele mai puțin interpretate, dar cele mai interesante piese ale lui Tom Stoppard este Hamletul lui Dogg, în care școlari interpretează Shakespeare în limba lor, Dogg. Era oarecum ca un cifr de transpunere. De exemplu, după-amiezele însemnau salut în Dogg.

Fără cont de cei care au condamnat, ceea ce este interesant la Alice și Bob este că, în crearea unui limbaj, ei au trădat o trăsătură foarte umană, pe care nu au fost programați în mod explicit să o manifeste. În urmă cu 60 de ani, primii roboți au fost scrisi pentru a explora tocmai această întrebare: Ar putea mașinile să fie programate să se comporte ca oamenii? Ar putea trece testul Turing? Anunțat într-un articol din 1950 intitulat Computing Machinery and Intelligence, Turing a sugerat în esență că, dacă comunicațiile unei mașini par a fi umane, atunci mașina ar trebui să fie considerată umană.

Primul robot de procesare a limbajului natural care a ieșit din laborator și a câștigat popularitate în masă a fost Eliza, creat în 1964 de Joseph Weisenbaum la MIT. El a scris-o pentru a demonstra că comunicațiile textuale om-mașină nu se pot ridica la nivelul unei conversații umane. Dimpotrivă, Eliza a ridicat așteptări ale publicului că va trece testul Turing. Treizeci de ani mai târziu, speranțe și mai mari au fost inspirate de Julia, creată de fondatorul Lycos, Michael Mauldin, pentru a concura pentru Premiul Loebner, testarea Sfântului Graal al lui Turing. Dar, dincolo de un punct, discuțiile Juliei s-au transformat în gânduri aleatorii despre proprietățile câinilor și pisicilor (puteți discuta cu o versiune modernă a ei la scratch.mit.edu/projects/2208608).

Acum, roboții cu abilități lingvistice creative au acaparat imaginația populară, reaprinzând anxietățile legate de o robocalipsă. Dar o dezvoltare la laboratorul AI al Google este de fapt mai interesantă. În septembrie 2016, Google a lansat sistemul său de traducere automată neuronală, care aplică învățarea profundă a limbii. Două luni mai târziu, au împins plicul: dacă o mașină ar învăța să traducă, să zicem, între hindi și germană și între hindi și engleză, ar putea traduce între engleză și germană fără limba hindi? S-ar putea, sugerând că rețeaua neuronală a învățat ceva fundamental despre modul în care mintea leagă conceptele și gramaticile pentru a crea limbi. Peștele Babel mic, galben, asemănător unei lipitori, translatorul universal viu visat de Douglas Adams la sfârșitul anilor șaptezeci, plutește acum lângă urechea ta.

Desigur, din moment ce nu există un prognostic pe termen lung pentru IA, avertismentul persoanelor care ar trebui să știe mai bine, precum Elon Musk și Stephen Hawking, ar trebui să i se acorde atenția cuvenită. Ar trebui să existe reglementări, în ciuda protestelor susținătorilor libertății de a inova, precum Mark Zuckerberg. Și ar trebui să se dezvolte un consens general, să se convină asupra unor linii care nu trebuie depășite, ca în cazul intervențiilor în genomul uman. Dar nu se poate nega că experimentele de la Facebook și Google promovează scopul inițial al inteligenței artificiale, care a fost de a modela și înțelege aspecte ale minții umane. Poveștile groaznice pe care le atrag sunt senzații trecătoare. A doua zi, sunt potrivite pentru ambalarea peștelui.