Máquinas inteligentes: humanos y robots

La singularidad (el momento en el cual las máquinas superan la inteligencia humana y se hacen rápidamente y progresivamente más inteligentes) podría estar cerca, lejos o no existir.

La economía y la ética no se limitan exclusivamente a los seres humanos: también pueden estudiar la acción y la coordinación de otros agentes como los seres vivos y las máquinas inteligentes. Todos los seres vivos son máquinas naturales o agentes capaces de realizar trabajo; además tienen algún sistema de control cibernético con cierto nivel de inteligencia y capacidad sensible o emocional para dirigir su conducta. Los organismos, especialmente los animales, tienen intereses, motivaciones, voluntad: quieren unas cosas, evitan otras, persiguen objetivos de forma intencional.

Los seres humanos construyen, mantienen y utilizan como herramientas a agentes artificiales con diversas capacidades de potencia e inteligencia: algunas máquinas funcionan como amplificadores o transformadores de fuerzas y movimientos; otras son procesadores de información (ordenadores, computadoras). Un robot es una máquina con sensores, actuadores y un ordenador con programas adecuados.

Existen semejanzas y diferencias entre los cerebros naturales y los ordenadores artificiales con su arquitectura con procesador central (o procesadores múltiples adecuadamente coordinados), memorias y dispositivos de entrada y salida.

El cerebro está constituido por neuronas, células vivas con su propio sistema de control; el ordenador está compuesto por circuitos electrónicos inorgánicos. Los ordenadores son digitales, discretos (cada elemento tiene sólo dos estados posibles, 0 y 1); las neuronas transmiten un impulso o no lo hacen según las entradas recibidas, pero la información se codifica en la tasa de disparos, que es continua. Las puertas lógicas transforman entradas en salidas según reglas funcionales simples y completamente regulares (salvo fallos o averías); las neuronas transforman entradas en salidas de forma más compleja y flexible.

Los elementos de un ordenador deben sincronizarse mediante algún reloj; las neuronas pueden dispararse de forma sincronizada o asíncrona. Los ordenadores gestionan la memoria (al menos a bajo nivel) mediante direcciones físicas o lógicas; en el cerebro la información se localiza por su contenido, mediante la expansión de la activación de ideas asociadas por alguna relación como semejanza, causalidad, contigüidad espacial o temporal… En un ordenador el fallo de un elemento puede producir daños totales; en un cerebro la degradación es gradual.

Los elementos de un ordenador funcionan en serie; el cerebro es una red compleja de actividad masivamente paralela, potencialmente simultánea. Un ordenador tiene un rendimiento, velocidad y capacidad constantes (salvo cambios en sus componentes o en su programación); un cerebro funciona a velocidades variables, es un sistema más plástico que se autoconstruye y modifica, puede cambiar según las circunstancias. En el ordenador el procesador y la memoria están separados, al menos al nivel físico (en programación orientada a objetos un objeto contiene datos y capacidad de procesamiento); en el cerebro las mismas unidades pueden cumplir ambas funciones.

El cerebro es un sistema natural vivo autoorganizado; un ordenador es una máquina artificial diseñada para su empleo por un usuario. Los cerebros forman parte de organismos, están conectados a cuerpos con sensores y efectores; un robot es el sistema constituido al integrar ordenador, sensores y efectores. Un ser vivo multicelular con un cerebro complejo tiene múltiples niveles de agencia y organización, desde las células individuales al organismo como un todo.

Las neuronas son unidades muy pequeñas y relativamente eficientes en el manejo de energía; un cerebro tiene una gran cantidad de neuronas altamente conectadas. Un procesador puede tener una gran cantidad de puertas lógicas microscópicas, pero estas suelen tener pocas conexiones, consumen mucha energía y necesitan refrigeración.

Los seres vivos se mantienen a sí mismos, se modifican parcialmente (su sistema nervioso cambia al aprender alguna habilidad o adquirir algún conocimiento) y se reproducen. Eventualmente los robots o agentes artificiales podrían llegar a automantenerse, modificarse y producir otros agentes artificiales o copias de sí mismos, pero estas habilidades podrían ser muy difíciles de programar o adquirir. Los robots podrían incrementar su autonomía, mejorando su capacidad de control y adquiriendo intereses o voluntad propia.

La aparición de máquinas progresivamente más inteligentes, intencionales y conscientes puede plantear diversos problemas económicos y éticos: como agentes o bienes de capital pueden ser complementarios o sustitutivos a los trabajadores y afectar a la desigualdad social; como agentes requieren algún tipo de consideración ética o legal; como agentes poderosos pueden suponer una oportunidad o una amenaza contra algunos o todos los humanos.

Los seres humanos son en principio diferentes en sus capacidades de acción: estas facultades pueden ser parcialmente innatas (genéticas) y parcialmente ambientales (aprendidas). La posibilidad de mejorar estas facultades puede generar igualdad (cuando los peores reciben formación y tienden a alcanzar a los mejores) o desigualdad (cuando los mejores reciben formación y se alejan de los peores). La existencia de herramientas, máquinas o bienes de capital incrementan la capacidad de acción y sus posibilidades. Las herramientas o bienes de capital pueden ser igualadoras de los humanos (una máquina que reemplace la fuerza humana), pero también pueden multiplicar las diferencias entre los individuos (por la posesión o no de bienes de capital o por la capacidad o no de utilizar instrumentos que requieran habilidades especiales).

Algunas máquinas artificiales complementan habilidades humanas (son bienes complementarios o cooperadores), mientras que otras reemplazan habilidades humanas (son bienes sustitutivos o competidores). Los humanos y los ordenadores o los robots tienen en principio capacidades diferentes, pero los desarrollos en inteligencia artificial podrían conseguir imitar o emular la inteligencia natural humana, mientras que es muy difícil que el cerebro humano por sí solo compita con inteligencias artificiales avanzadas. Son posibles combinaciones muy poderosas y eficientes de inteligencias humanas y artificiales: las relaciones cooperativas pueden originar fusiones o híbridos entre lo natural y lo artificial, entre lo orgánico, lo mecánico y lo electrónico (ciborgs o humanos mejorados, con capacidades incrementadas o extendidas).

Los cerebros humanos son lentos y falibles pero funcionan relativamente bien en ciertos entornos (reconocimiento de patrones sensoriales, coordinación psicomotriz, lenguaje) porque son el resultado de largos procesos evolutivos de adaptación y aprendizaje; además pueden ser creativos, innovadores, y tienen inteligencia emocional y social para interactuar con otros humanos. Los ordenadores son rápidos, tienen gran capacidad de memoria y procesamiento y son buenos para tareas formalizadas, bien definidas, repetitivas, monótonas. Su capacidad puede mejorar al incrementar la velocidad y la memoria, pero sobre todo mediante la mejora en los algoritmos de tratamiento de información. Los ordenadores y sus memorias pueden reproducirse o copiarse fácilmente porque su estructura fundamental es conocida y controlada; en los cerebros orgánicos la información es difícil de localizar, interpretar, transmitir y reproducir. La máquina inteligente pero sin intereses propios no se cansa, no se pone enferma, su rendimiento es más homogéneo, no hace trampas, no se escaquea, no protesta, no plantea reivindicaciones, no se asocia en sindicatos, no hace huelga, no sabotea la producción.

Las máquinas inteligentes pueden reemplazar a operarios humanos en las tareas más fácilmente automatizables, pero son útiles no sólo para funciones físicas simples y repetitivas de bajo nivel (tareas manuales), sino también para funciones cognitivas en las cuales un computador puede ser mejor que un humano por su capacidad de obtención y procesamiento de gran cantidad de datos, información y conocimiento (sistemas expertos, tratamiento estadístico o probabilístico), por no tener sesgos cognitivos o emocionales, o por no tener conflictos de interés (aunque sus programadores o dueños sí podrían tenerlos).

Algunas capacidades humanas pueden atrofiarse o perderse por delegación a herramientas o máquinas en la medida en que requieran mantenimiento por uso o entrenamiento, pero este es el resultado lógico de la especialización, que genera relaciones de interdependencia. Las habilidades críticas que pueden fallar o son difíciles de sustituir requieren algún tipo de redundancia o atención especial.

Todos los organismos vivos tienen en distintos grados y formas sensibilidad, intereses y preferencias, y cierto nivel de inteligencia; algunos animales sociales han desarrollado rudimentos de sentimientos morales, lenguaje y autoconciencia; sólo los seres humanos tienen conciencia, inteligencia y lenguaje tan desarrollados que son capaces de argumentación moral para la resolución de sus conflictos. Las máquinas artificiales pueden tener capacidad de control y diversos tipos de inteligencia, pero aún no tienen intereses, preferencias, emociones, sentimientos, valoraciones, conciencia, no se preocupan por su propia supervivencia ni interaccionan socialmente. Tal vez sea posible programar en ellas estas habilidades (para mejorar su rendimiento o para gestionar sus interacciones con humanos) o quizás emerjan como adaptaciones espontáneas en la medida en que sean capaces de actuar de forma autónoma, autoproducirse y evolucionar.

La ética no se refiere exclusivamente a la especie humana: puede tratar como sujetos éticos (personas sometidas a normas, con responsabilidad, derechos y deberes) a otras entidades con intereses y capacidad para comprender y practicar la argumentación moral, como las máquinas suficientemente inteligentes. Un robot con poca autonomía puede ser considerado como una herramienta propiedad de una persona últimamente responsable por ellos (igual que un humano responde por sus animales); un robot con mucha autonomía, que desarrolle inteligencia, sensibilidad, intereses y consciencia tiene las características necesarias para ser tratado como un sujeto ético dueño de sí mismo y no propiedad de otro, o sea como una persona.

Sobre la aparición de máquinas progresivamente más capaces e inteligentes, algunos pensadores humanos predicen utopías (convertirnos en dioses omnipotentes, vencer todos los problemas, alcanzar la inmortalidad mediante emulaciones de humanos en ordenadores) o distopías (ser aniquilados o esclavizados por agentes más poderosos que nosotros, cuya aparición habría que evitar o controlar programando en ellos valores compatibles con nuestra supervivencia). Parece asumirse que la superinteligencia es posible o incluso inevitable, que la inteligencia artificial se mejora a sí misma de forma recursiva generando un bucle de realimentación positiva y un crecimiento explosivo o exponencial. Pero tal vez tener más inteligencia no implica necesariamente ser capaz de mejorar aún más y cada vez más deprisa esa misma inteligencia: quizás la tarea de generar más inteligencia tiene una dificultad creciente, posiblemente por los problemas de coordinación y conflictos potenciales entre múltiples agentes o funcionalidades especializadas en sistemas complejos; los humanos son poderosos no por sus grandes capacidades individuales sino por la cooperación social, por la especialización y la división del trabajo y su adecuada coordinación. La singularidad (el momento en el cual las máquinas superan la inteligencia humana y se hacen rápidamente y progresivamente más inteligentes) podría estar cerca, lejos o no existir.

Referencias:

Marvin Minsky, The Emotion Machine: Commonsense Thinking, Artificial Intelligence, and the Future of the Human Mind.

Ray Kurzweil, The Age of Intelligent Machines.

Ray Kurzweil, How to Create a Mind: The Secret of Human Thought Revealed.

Erik Brynjolfsson & Andrew McAfee, The Second Machine Age: Work, Progress, and Prosperity in a Time of Brilliant Technologies.

Edge Question 2015: What Do You Think About Machines That Think?

(*) Ray Kurzweil, The Age of Spiritual Machines.

(*) Ray Kurzweil, The Singularity Is Near.

(*) Erik Brynjolfsson & Andrew McAfee, Race Against The Machine: How the Digital Revolution is Accelerating Innovation, Driving Productivity, and Irreversibly Transforming Employment and the Economy.

(*) Nick Bostrom, Superintelligence: Paths, Dangers, Strategies.

(*) Aún no leídos por el autor de este artículo.