Geek Tecnología

Las leyes de la robótica y por qué no funcionarán en el mundo real

junio 9, 2020

Las leyes de la robótica y por qué no funcionarán en el mundo real

Leyes de la robótica. ¿Qué son? ¿Funcionarán en el mundo real?

Las 3 leyes de la robótica son uno de los enunciados más conocidos de la Historia de la ciencia-ficción, y se han tomado en muchas ocasiones como referencia a la hora de especular sobre cómo deberíamos crear seres inteligentes sin que estos terminaran haciéndonos daño o incluso destruyéndonos.

Formuladas en 1942 en el relato “Círculo vicioso”, del celebérrimo escritor Isaac Asimov, las 3 leyes de la robótica han pasado a formar parte del imaginario colectivo, hasta el punto de que muchas personas piensan que una formulación exacta de estas podría protegernos ante una hipotética “rebelión de los robots”.

Sin embargo, las cosas no son tan sencillas como parecen. En este artículo vamos a conocer cuáles son las leyes de la robótica y por qué no funcionarían si tuvieran que aplicarse en el mundo real.

Las leyes de la robótica

  1. Un robot no hará daño a un ser humano o, por inacción, permitirá que un ser humano sufra daño.
  2. Un robot debe cumplir las órdenes dadas por los seres humanos, a excepción de aquellas que entrasen en conflicto con la primera ley.
  3. Un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la primera o con la segunda ley.

Estos tres preceptos no solo aparecieron en “Círculo vicioso”, sino que fueron aludidos en reiteradas ocasiones en diferentes relatos de Asimov, e incluso en muchas obras posteriores escritas por otros autores.

Según el propio Asimov, el propósito de las 3 leyes en la ficción sería el de evitar una posible rebelión de los robots. Así, en el caso de que uno de ellos intentara vulnerar alguna de las leyes, el cerebro electrónico del robot quedaría dañado y este “moriría”.

Sin embargo, si algo sabemos es que la realidad es muy compleja y resulta imposible subsumirla en enunciados sencillos. Y esto no era algo ignorado por Asimov, ni mucho menos. Por el contrario, en algunos de sus posteriores relatos plantearía situaciones en las que las 3 leyes podían entrar en conflicto.

Este fue uno de los motivos por los que, en la novela de 1985 “Robots e Imperio”, Asimov incluiría una 4ª ley, denominada la Ley Cero de la robótica:

0. “Un robot no hará daño a la Humanidad o, por inacción, permitirá que la Humanidad sufra daño”.

Esta Ley Cero estaba, de hecho, pensada para regir sobre las restantes leyes de la robótica, con el fin de solventar posibles conflictos. Sin embargo, también encontraría graves obstáculos “en la práctica”.

¿Por qué no funcionarían en la vida real?

Imaginemos que, llegado cierto punto, consiguiéramos desarrollar robots dotados de inteligencia. E imaginemos que utilizáramos las 4 leyes de la robótica de Asimov para controlar su comportamiento. ¿Qué podríamos esperar?

Probablemente, nos encontráramos con un contundente fracaso.

Y no es que Asimov no fuera lo suficientemente hábil a la hora de formularlas (¡todo lo contrario!), sino que estas eran hijas de su época, y además pretendían controlar algo que, posiblemente, sea incontrolable. Expliquemos todo esto un poco mejor.

Las leyes de la robótica -en especial las 3 iniciales- fueron creadas en un contexto en el que la informática apenas había iniciado su andadura y la Inteligencia Artificial era un concepto puramente circunscrito a la ciencia-ficción.

Por ello, el enfoque de Asimov era el de la predeterminación de los actos de los robots. Todo su comportamiento sería previsto a través de una exhaustiva programación con la que se intentaría controlar hasta el último de los detalles.

Sin embargo, el propio Asimov ya nos advertía en sus relatos de los dilemas que esto podría conllevar. La realidad es enormemente compleja y las situaciones de conflicto puede presentarse con asiduidad. Pero no solo esto.

Durante las últimas décadas, y en especial en estos últimos años, el concepto de Inteligencia Artificial ha venido muy vinculado a lo que conocemos como aprendizaje automático.

Esta técnica permite –muy grosso modo- que los programas aprendan de la experiencia de una forma más o menos autónoma. Así, estos experimentan repetidas veces cierto tipo de situaciones, tras lo cual extraen patrones que utilizarán con el fin de lograr algún objetivo concreto. Esta es la técnica mediante la cual algunos programas están aprendiendo a identificar imágenes, conducir vehículos o entender el lenguaje natural humano.

Esto nos hace pensar que, si consiguiéramos el desarrollo de una Inteligencia Artificial General, como la que propone Asimov, esta no sería completamente programable, sino que sería capaz de aprender en base a su propia experiencia y sacar sus propias conclusiones.

Así, cabe preguntarse, ¿serían capaces de controlar las leyes de la robótica el comportamiento de una Inteligencia Artificial desarrollada en base a los principios del machine learning? Parece difícil afirmarlo.

Más aún. Aunque se trata de hipótesis, muchos autores piensan que, una vez alcanzado el desarrollo de una Inteligencia Artificial General, esta sería capaz de seguir evolucionando, tornándose cada vez más inteligente y superando ampliamente la capacidad de los seres humanos.

Una inteligencia tan poderosa, ¿no sería capaz de encontrar resquicios en su código para poder vulnerar leyes preprogramadas? Por ejemplo, no es difícil imaginar que, con el tiempo, pudiera anular los mecanismos desarrollados para autodestruirse en los casos de incumplimiento de las leyes.

No obstante lo anterior, lo cierto es que los debates que Isaac Asimov planteó a través de sus leyes de la robótica continúan hoy vigentes y podrían recibir mucha atención, casi un siglo después de que los plasmara en sus relatos. ¡Casi nada! Cualquier escritor estaría orgulloso de hacernos imaginar tanto y durante tanto tiempo.

Por cierto, antes de que vayas a observar tu aspiradora robot con cara de desconfianza , ¿qué tal si descubres Pandora FMS?

Pandora FMS es un software de monitorización flexible, capaz de monitorizar dispositivos, infraestructuras, aplicaciones, servicios y procesos de negocio.

¿Quieres conocer mejor qué es lo que Pandora FMS puede ofrecerte? Descúbrelo entrando aquí.

Si tienes que monitorizar más de 100 dispositivos también puedes disfrutar de una DEMO GRATUITA de 30 días de Pandora FMS Enterprise. Consíguela aquí.

Por último, recuerda que si cuentas con un número reducido de dispositivos para monitorizar puedes utilizar la versión OpenSource de Pandora FMS. Encuentra más información aquí.

No dudes en enviar tus consultas. ¡El equipazo que se encuentra detrás de Pandora FMS estará encantado de atenderte!


One comment
  1. Jimmy Olano

    Desconocía la ley cero, ¡gracias por la información sr. Izquierdo! Quiero pensar que, al menos, nosotros los programadores tomemos estas leyes para fijarlas en nuestra conciencia...

Leave a comment

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios.