Només nou empreses gegants de tecnologia als Estats Units i la Xina estan darrere de la gran majoria d’avenços en intel·ligència artificial a tot el món. Al seu nou llibre, Els nou grans: com els titans tècnics i les seves màquines de pensar podrien deformar la humanitat (PublicAffairs, 5 de març), Amy Webb preveu tres possibles futurs, que van des de l’optimisme fins a l’apocalíptic, que podrien resultar de les accions que realitzem -o no fem- per controlar el desenvolupament de A.I. i donar forma al seu impacte global. En aquest fragment, planteja una sèrie de dures qüestions ètiques que els humans construeixen A.I. els sistemes haurien d’utilitzar-se per guiar el seu treball.
Les regles, l’algoritme, mitjançant les quals viuen i han viscut totes les cultures, societats i nacions, sempre van ser creades per poques persones. Democràcia, comunisme, socialisme, religió, veganisme, nativisme, colonialisme: són construccions que hem desenvolupat al llarg de la història per ajudar a guiar les nostres decisions. Fins i tot en els millors casos, no són a prova de futur. Les forces tecnològiques, socials i econòmiques sempre intervenen i ens fan adaptar.
Els Deu Manaments constitueixen un algorisme destinat a crear una societat millor per als humans vius fa més de 5.000 anys. Un dels manaments és prendre un dia complet de descans a la setmana i no fer cap feina aquest dia. A l’època moderna, la majoria de la gent no treballa exactament els mateixos dies o hores de setmana a setmana, de manera que seria impossible no incomplir la regla. Com a resultat, les persones que segueixen els Deu Manaments com a principi rector són flexibles en la seva interpretació, ateses les realitats de jornades laborals més llargues, pràctiques de futbol i correu electrònic. L’adaptació està bé: funciona molt bé per a nosaltres i per a les nostres societats, cosa que ens permet mantenir el bon camí. Acordar un conjunt bàsic de pautes ens permet optimitzar nosaltres mateixos.
valor net de carly rose sonenclar
No hi hauria manera de crear un conjunt de manaments per a A.I. No hem pogut escriure totes les regles per optimitzar correctament per a la humanitat, i això és degut a que, tot i que les màquines que pensen poden ser ràpides i potents, manquen de flexibilitat. No hi ha una manera fàcil de simular excepcions, ni de provar de revisar cada contingència per endavant. Siguin quines siguin les regles que es puguin escriure, sempre hi hauria una circumstància en què algunes persones voldrien interpretar les regles de manera diferent o ignorar-les completament o crear esmenes per gestionar una circumstància imprevista.
Sabent que no podem escriure un conjunt de manaments estrictes a seguir, hauríem de centrar la nostra atenció en els humans que construeixen els sistemes? Aquestes persones, les tribus d'AI, haurien de fer-se preguntes incòmodes, començant per:
quants anys té Chris Janson
- Quina és la nostra motivació per A.I.? Està alineat amb els millors interessos a llarg termini de la humanitat?
- Quins són els nostres propis biaixos? Quines idees, experiències i valors no hem pogut incloure a la nostra tribu? A qui hem passat per alt?
- Hem inclòs persones diferents de nosaltres per tal de fer el futur de A.I. millor - o simplement hem inclòs la diversitat al nostre equip per satisfer determinades quotes?
- Com podem assegurar que el nostre comportament sigui inclusiu?
- Com són les implicacions tecnològiques, econòmiques i socials de A.I. entès pels implicats en la seva creació?
- Quins drets fonamentals hauríem de tenir per interrogar els conjunts de dades, algoritmes i processos que s’utilitzen per prendre decisions en nom nostre?
- Qui arriba a definir el valor de la vida humana? Contra què es pesa aquest valor?
- Quan i per què els de les tribus d'AI creuen que és la seva responsabilitat abordar les implicacions socials de l'AI?
- El lideratge de la nostra organització i la nostra A.I. les tribus reflecteixen molts tipus diferents de persones?
- Quin paper tenen els que comercialitzen A.I. jugar a abordar les implicacions socials de A.I.?
- Si continuem comparant A.I. al pensament humà, o és millor que ho classifiquem com una cosa diferent?
- Està bé construir A.I. que reconeix i respon a les emocions humanes?
- Està bé fer A.I. sistemes capaços de imitar l’emoció humana, sobretot si s’aprèn de nosaltres en temps real?
- Quin és el punt acceptable en què tots estem bé amb A.I. evolucionant sense humans directament al bucle?
- En quines circumstàncies un A.I. simular i experimentar emocions humanes comunes? Què passa amb el dolor, la pèrdua i la soledat? Estem bé provocant aquest patiment?
- Estem desenvolupant A.I. per buscar una comprensió més profunda de nosaltres mateixos? Podem utilitzar A.I. per ajudar la humanitat a viure una vida més examinada?
Hi ha nou grans empreses tecnològiques, sis nord-americanes i tres xineses, que són aclaparadores responsables del futur de la intel·ligència artificial. Als Estats Units, són Google, Microsoft, Amazon, Facebook, IBM i Apple ('G-MAFIA'). A la Xina, són les MTD: Baidu, Alibaba i Tencent.
El G-MAFIA ha començat a abordar el problema dels principis rectors a través de diversos grups de recerca i estudi. Dins de Microsoft hi ha un equip anomenat FATE: per a l’equitat, la rendició de comptes, la transparència i l’ètica a A.I. Arran de l’escàndol de Cambridge Analytica, Facebook va llançar un equip d’ètica que estava desenvolupant programari per assegurar-se que el seu A.I. els sistemes van evitar el biaix. (En particular, Facebook no va arribar a crear un consell d’ètica centrat en A.I.) DeepMind va crear un equip d’ètica i societat. IBM publica regularment sobre ètica i A.I. Després d’un escàndol a Baidu (el motor de cerca va prioritzar les afirmacions mèdiques enganyoses d’un hospital dirigit per un militar, on un tractament va provocar la mort d’un estudiant de 21 anys), el conseller delegat de Baidu, Robin Li, va admetre que els empleats havien fet compromisos pel bé del creixement dels beneficis de Baidu i va prometre centrar-se en l’ètica en el futur.
florinka pesenti i dan abrams
The Big Nine produeix estudis d’ètica i llibres blancs, convoca experts per debatre sobre ètica i acull panells sobre ètica, però aquest esforç no està prou relacionat amb les operacions quotidianes dels diversos equips que treballen a A.I.
A.I. de The Big Nine els sistemes accedeixen cada vegada més a les nostres dades del món real per crear productes que mostrin valor comercial. Els cicles de desenvolupament s’acceleren per mantenir el ritme de les expectatives dels inversors. Hem estat disposats (si no ho volem) a participar en un futur que es crea a corre-cuita i sense respondre prèviament a totes aquestes preguntes. Segons explica A.I. els sistemes avancen i s’automatitza més la vida quotidiana, menys control tenim en realitat sobre les decisions que es prenen sobre nosaltres i per a nosaltres.
Amy Webb apareixerà al Inc. Founders House a Austin l’11 de març.
