El futuro de la IA (IV)

EL FUTURO DE LA IA (IV)

En sus “Tres leyes de la IA”, Peter J Bentley pretende disipar los mitos mas comunes actualmente existente en el mundo sobre las dificultades que genera o puede generar la IA.

Ley 1:    El uso de una herramienta no debe ser peligroso.

“La primera ley de la IA nos dice que la inteligencia artificial es un objetivo tremendamente difícil, que requiere las condiciones exactamente adecuadas y un esfuerzo considerable. No habrá inteligencias artificiales fugitivas ni tampoco inteligencias artificiales con un desarrollo propio que escapen a nuestro control. No habrá singularidades. La IA sólo alcanzara el grado de inteligencia que nosotros le animemos (u obliguemos) a alcanzar, bajo fuerte presión”.

Hay que estar consciente de que la IA no tiene inteligencia humana. Y su desarrollo y conducta dependerá de nuestra evolución y desarrollo y, evolucionaran juntamente con nosotros.

Ley 2:    Una herramienta debe realizar su función de manera eficiente a menos que esto perjudique al usuario. …

“La segunda ley de la IA nos dice que los recursos no son suficientes. Seguimos teniendo que diseñar nuevos algoritmos y estructuras dentro de las IA y como apoyo para cada nueva dificultada la que se enfrenten”

Ley 3:    Una herramienta debe permanecer intacta durante su uso a menos que su destrucción sea necesaria para su uso o por seguridad.

“La tercera ley de la IA nos dice que, a medida que aumenta la inteligencia, el tiempo necesario para el ensayo puede incrementarse exponencialmente. En ultima instancia, el ensayo puede imponer límites prácticos a una inteligencia artificial viable y fiable. De la misma forma que cada vez es más difícil ir más rápido a medida que nos acercamos a la velocidad de la luz, cada vez es más difícil aumentar la inteligencia mientras construimos cerebros más inteligentes”.

Una vez más, es una razón fundamental por la que la investigación y la aplicación de la IA se dedican a encontrar soluciones inteligentes a problemas concretos.^[1]

Es innegable el paralelismo entre las leyes de la robótica y las tres leyes de la IA. Las Tres Leyes de la Robótica^[2] fueron establecidas por el escritor y profesor de química Isaac Asimov^[3] en 1941. Estas leyes fueron creadas en el universo de ficción del autor para establecer un conjunto de reglas que disciplinaran a los robots en un futuro en el que tuvieran un papel importante en la sociedad. En aquel momento Asimov era un visionario, ya que la robótica y la inteligencia artificial no eran temas comunes ni se esperaba su desarrollo a gran escala^[4].

La necesidad de probar las IA tiene carácter vital en su desarrollo y control. Es imprescindible probar las IA en cada fase. De la misma forma que Google lleva años probando sus aplicaciones de IA en coches sin conductor.^[5] Todos los ingenieros y desarrolladores saben muy bien lo imprescindible que son las pruebas y ensayos adecuados que garanticen de manera certera la seguridad de su diseño, muy especialmente en las IA. No se pueden extrapolar resultados, y el hecho de que la respuesta de la IA en una prueba anterior haya sido satisfactoria, no debe suponer que, seguirá haciéndolo. Los pilotos humanos, son sometidos a pruebas en cada etapa de su formación para garantizar que cumplen, que, en el caso de la IA, es que siguen estando certificadas^[6].(https://www.jorgeacapote.com/el-futuro-de-la-ia-ii/)

Claude Shannon^[7], uno de los pioneros de la informática y de la IA, en 1961 dijo: “Confío en que, en cuestión de diez o quince años, surja algo del laboratorio que no esté demasiado alejado del robot de ciencia ficción”. Predijo que para mediados de la década de 1970 tendríamos máquinas autónomas que caminarían, hablarían y pensarían. Cuarenta años después, apenas podemos hacer andar a un robot. Ciertamente, no puede pensar por sí mismo. En la actualidad, hay estudios (que contienen opiniones muy variadas) que concluyen que existe un 50 % de posibilidades de que la IA supere a los humanos en todas las tareas en cuarenta y cinco años (Grace et al., 2017). Todo suena muy familiar. Y será igual de impreciso^[8].

JACA, septiembre 2024

Referencias:

Otra razón fundamental es nuestro propio cerebro: ahora mismo y en un futuro previsible, no somos lo suficientemente inteligentes para crear inteligencia. No entendemos como funciona el cerebro biológico. No sabemos por que funcionan algunas de nuestros mejores métodos de IA. No sabemos como mejorarlos. El efecto de freno en el progreso, causado por nuestra propia ignorancia, es considerable. – https://www.europarl.europa.eu/RegData/etudes

[2] Las tres leyes de la robótica o leyes de Asimov son un conjunto de normas elaboradas por el escritor de ciencia ficción Isaac Asimov que se aplican a la mayoría de los robots de sus obras y que están diseñados para cumplir órdenes. Aparecidas por primera vez en el relato Círculo vicioso (Runaround) de 1942

[3] El Oxford English Dictionary, en su Volumen Suplementario Tercero, reconoció a Asimov la invención de la palabra “robótica”.

[5] En junio de 2016, Google había probado su flota de vehículos en modo autónomo en un total de 2,8 millones de km. (Google, 2016)

[6] Cualquier interacción humana con inteligencias artificiales implica también formación y una nueva certificación. Un automóvil con una IA que asuma el control en algunas circunstancias se convierte en una responsabilidad cuando la IA llega al límite de sus capacidades y el conductor no ha sido formado para mantenerse lo suficientemente alerta para recuperar el control [Alexander Eriksson (VOLVO) y Neville E. Stanton (University of Southampton) 2017]

[7] Claude Elwood Shannon (30 de abril de 1916 – 24 de febrero de 2001) fue un matemático, ingeniero eléctrico y criptógrafo estadounidense recordado como «el padre de la teoría de la información

[8] Desarrollado en base a la información de https://www.europarl.europa.eu/RegData/etudes