Leyes para un mundo feliz
Leyes de ficción para un mundo real.
Leyes de ficción para un mundo real.
Durante una conversación sostenida entre los escritores de ciencia ficción John W. Campbell e Isaac Asimov, se cristalizaron un conjunto de normas conocidas como Las tres leyes de la robótica de Asimov. Más que leyes propiamente dicho son directrices utilitarias, “formulaciones matemáticas impresas en los senderos positrónicos del cerebro del robot”, según explica el autor, y dictan que:
Un robot no hará daño a un ser humano ni, por inacción, permitirá que un ser humano sufra daño.
Un robot deberá obedecer las órdenes dadas por los seres humanos, excepto si estas órdenes entrasen en conflicto con la medida con la primera ley.
Un robot deberá proteger su propia existencia en la medida en que esta protección no entre en conflicto con la primera o la segunda ley.
Más tarde, Asimov notó que sus normas podrían entrar en contradicción en ciertas circunstancias, y añadió una a modo de preámbulo, conocida como la número cero:
Un robot no puede hacer daño a la humanidad o, por inacción, permitir que la humanidad sufra daño.
Si bien son leyes creadas para robots en la ficción, se han utilizado para discutir cómo deberían controlarse los desarrollos que involucran a la IA, y que hace ya hace mucho tiempo comenzó a ser autónoma en ciertas áreas. Sin embargo estas leyes formuladas en la década del 40’ son al menos insuficientes. Imaginadas para un mundo de ficción, desde el punto de vista de una época donde el desarrollo tecnológico estaba en otro estadio. Pudiendo citar como ejemplo el caso de los autos que tiene capacidad de conducción autónoma, qué haría la IA que controla el sistema ante una situación X donde peligre la vida de los pasajeros y la de los transeúntes ¿Debería proteger la vida de los humanos dentro del automóvil y atropellar a dos peatones que están justo delante? (Analizando previamente que evitarlos supondría volcar y provocar la posible muerte de los pasajeros) ¿Cómo o quién decidiría qué vidas son más valiosas? Prestando atención a estos interrogantes, se comenzó a discutir a nivel gubernamental cómo deberían legislarse estas tecnologías. La Unión Europea fue pionera en este sentido y hace varios años se encuentra trabajando para lograr una correcta regulación de la Inteligencia Artificial.
Existen también organizaciones civiles, como Future of Life o Stop Killer Robots, que buscan generar conciencia en la comunidad mundial respecto a las capacidades negativas que pueden llegar a desarrollar (y ya desarrollaron) las tecnologías de Inteligencia Artificial.
El escritor británico de ciencia ficción Arthur C. Clarke escribió un ensayo en 1962 titulado “Hazards of prophecy: the failure of imagination” (Peligros de la profecía: la falta de imaginación, según la traducción al español). en dicho texto publicado como parte del libro “Profiles of the future” (Perfiles del futuro), el autor de 2001: Odisea en el espacio (1968) formularía la primera de sus tres famosas leyes relacionadas con el avance científico:
Cuando un científico eminente pero anciano afirma que algo es posible, es casi seguro que tiene razón. Cuando afirma que algo es imposible, muy probablemente está equivocado.
Años más tarde, el mismo autor publicó una versión revisada de su obra del año 62’ donde proponía una segunda ley:
La única manera de descubrir los límites de lo posible es aventurarse un poco más allá, hacia lo imposible.
La tercera, y tal vez la más conocida, se dice que fue formulada por Clarke simplemente para redondear el número (“Si tres leyes fueron suficientes para Newton, modestamente decido parar aquí”):
Cualquier tecnología lo suficientemente avanzada es totalmente indistinguible de la magia.
Por supuesto, si bien estas no son leyes científicas, permiten abordar acertadamente cierto aspecto sobrenatural que parecen tener las tecnologías en su etapa novedosa. El funcionamiento complejo de las máquinas, sus capacidades y su nivel de perfeccionamiento exponencial a veces puede rozar lo increíble. A veces la ciencia ficción no es más que un boceto de lo que será el futuro real.