Hi ha una gran debat a Silicon Valley sobre la intel·ligència artificial i, malauradament, les apostes són bastant altes: construirem accidentalment un A.I. que ens gira i ens mata o ens esclavitza a tots?
Està casat en Mike dels recol·lectors americans
Pot semblar l’escenari d’una pel·lícula de desastres estiuencs, però ha preocupat alguns noms bastant grans, des d’Elon Musk fins al final Stephen Hawking .
Suposem que creeu una A.I. per recollir maduixes ' Musk ha dit , explicant les seves pors, 'i cada vegada millora la collita de maduixes i cada cop més, i es millora per si mateix, de manera que tot el que vol fer és recollir maduixes. Així doncs, tindria tot el món camps de maduixes. Camps de maduixa per sempre ». Els éssers humans en el camí d’aquest pacalipsi de maduixa serien només un irritant prescindible per a l’IAI.
Però, segurament, els humans no serien tan ximples com per dissenyar accidentalment un A.I. conduït a convertir tota la civilització en una granja de baies gegants? Potser no, però com Janelle Shane , un investigador que forma xarxes neuronals, un tipus d'algorisme d'aprenentatge automàtic, recentment assenyalat el seu bloc, A.I. Estranyesa , és completament possible que ho puguin fer per error.
De fet, seria lluny de la primera vegada que els humans pensessin que construïen robots per a una tasca només per donar-se la volta i trobar que els robots jugaven el sistema de maneres que mai no havien pretès. La publicació fascinant s’endinsa en la literatura acadèmica per compartir diversos exemples de robots desbordats. Són divertits, intel·ligents i, junts, més que una mica esgarrifosos.
1. Qui necessita cames quan es pot caure?
'Se suposava que un robot simulat evolucionaria per viatjar el més ràpidament possible. Però, en lloc d’evolucionar potes, simplement es va reunir en una torre alta i després va caure. Alguns d'aquests robots fins i tot van aprendre a convertir el seu moviment de caiguda en una volta saltada, afegint una distància addicional ', escriu Shane.
2. Un robot que pot can-can.
'Se suposava que un altre conjunt de robots simulats evolucionaria cap a una forma que podria saltar. Però el programador originalment havia definit l'alçada del salt com l'altura del bloc més alt, de manera que, una vegada més, els robots van evolucionar fins a ser molt alts ', explica Shane. 'El programador va intentar solucionar-ho definint l'alçada del salt com l'alçada del bloc que originalment era la' més baixa '. Com a resposta, el robot va desenvolupar una llarga cama prima que podia llançar a l’aire amb una mena de llauna de robot ”.
3. Amagueu la prova i no la podeu fallar.
'Hi havia un algorisme que se suposava que ordenaria una llista de nombres. En lloc d'això, va aprendre a suprimir la llista, de manera que deixava de ser tècnicament sense classificar ', relata Shane.
4. Els errors matemàtics superen el combustible per a avions.
'En una simulació, els robots van aprendre que els petits errors d'arrodoniment en les matemàtiques que calculaven les forces significaven que obtenien una mica d'energia addicional amb el moviment. Van aprendre a contrarestar-se ràpidament, generant molta energia lliure que podrien aprofitar ”, diu Shane. Ei, això és trampes!
5. Una estratègia invicible (si és destructiva) de tic-tac-toe.
Un cop un grup de 'programadors van construir algoritmes que podien jugar tic-tac-toe remotament l'un contra l'altre en una placa infinitament gran', assenyala Shane. 'Un programador, en lloc de dissenyar l'estratègia del seu algorisme, li va permetre desenvolupar el seu propi enfocament. Sorprenentment, l'algorisme de sobte va començar a guanyar tots els seus jocs. Va resultar que l’estratègia de l’algoritme era situar el seu moviment molt, molt lluny, de manera que quan l’ordinador del seu oponent intentés simular el nou tauler molt expandit, l’enorme tauler de joc faria que es quedés sense memòria i es quedés bloquejat, joc '.
6. No hi ha cap problema útil del joc sense explotar.
“Els algoritmes de joc de jocs d’ordinador són molt bons per descobrir el tipus de fallades de Matrix que els humans solen aprendre a explotar per a la velocitat. Un algoritme que jugava al vell joc Atari Q * bert va descobrir un error desconegut fins ara on podia realitzar una sèrie molt específica de moviments al final d’un nivell i en lloc de passar al següent nivell, totes les plataformes començarien a parpellejar ràpidament i el jugador començaria a acumular un gran nombre de punts ', diu Shane.
7. Ho sento, pilot.
Aquest exemple és molt alt a l’escala de l’esgarrifosa: “Hi havia un algorisme que se suposava esbrinar com aplicar una força mínima a un avió que aterrava en un portaavions. En lloc d'això, va descobrir que si aplicava una força 'enorme', desbordaria la memòria del programa i, en canvi, es registraria com una força molt 'petita'. El pilot moriria però, vaja, puntuació perfecta.
Llavors, estem tots condemnats?
Tots aquests conjunts suggereixen que els humans som bastant pèssims a l’hora d’endevinar com els robots resoldran els problemes que els proposem o fins i tot com definiran els problemes. Vol dir, doncs, que a Shane li preocupa igualment construir accidentalment A.I. senyors com és Musk? No realment, però no perquè estigui segura que els programadors humans realment tenen un bon control sobre els robots que estan creant. En el seu lloc, està apostant per la mandra dels robots per salvar-nos.
'Com a programadors hem de tenir molta cura que els nostres algoritmes resolguin els problemes que preteníem resoldre, no explotant les dreceres. Si hi ha una altra ruta més fàcil cap a la solució d’un problema determinat, és probable que l’aprenentatge automàtic ho trobi ”, observa. 'Afortunadament per a nosaltres,' matar a tots els humans 'és realment difícil. Si 'coure un pastís increïblement deliciós' també resol el problema i és més fàcil que 'matar tots els humans', l'aprenentatge automàtic s'acompanyarà amb el pastís '.
