Usted está aquí

Dominando nuestro cerebro

En un artículo anterior hablábamos de lo rápido que se están produciendo los cambios en las áreas de inteligencia artificial, big data y computer lerning, y de las increíbles -e imprevisibles- consecuencias que ello tendría en el desarrollo económico y social. Algunos, en los comentarios que hicieron al artículo, manifestaban su desconfianza en que todos esos cambios, de los que se lleva hablando décadas, fuesen a llegar alguna vez. Las noticias, sin embargo, demuestran, día tras día, que una parte importante de la tecnología necesaria para dichos cambios ya está ahí, a nuestra disposición, y sigue avanzando y, sobre todo, que los cambios van a ser todavía mucho más profundos de lo que nos imaginamos. Cierto es que no se puede precisar el tiempo necesario para que los introduzcamos en nuestro día a día.

En el campo del derecho, por ejemplo, en el último mes han surgido dos noticias que permiten intuir la radicalidad de los cambios que se están gestando: un equipo de investigadores de la Oficina Nacional de Investigaciones Económicas de Estados Unidos (NBER, por sus silgas en inglés),  por ejemplo, ha desarrollado un algoritmo que predice, con mayor exactitud que un juez, la probabilidad de que un acusado se fugue durante la instrucción de su procedimiento y antes de que se dicte sentencia. Muchas de las decisiones que toman los jueces se basan en “el sentido común” y “la experiencia”, que no son otra cosa sino el conjunto de datos que la persona -el juez- ha ido acumulando a lo largo de su vida y que le permiten, a través de la capacidad del cerebro de elaborar patrones, hacer predicciones más o menos certeras sobre el futuro. Evidentemente, una máquina capaz de manejas ingentes cantidades de información podría, con muchísima más precisión, y evitando los sesgos y condicionamientos propios del ser humano, hacer esas mismas predicciones con unos resultados mucho mejores.

Pero es todavía más llamativo el estudio publicado por la Revista PNAS (“Proceedings of the National Academy of Sciences”), en el cual se explica cómo un conjunto de científicos consigue, a través de imágenes cerebrales, obtenidas con escáneres avanzados e inteligencia artificial, determinar el grado de consciencia que tiene un sujeto al realizar una acción. Al parecer, y según este estudio, el estado neurológico de un sujeto no es el mismo cuando realiza una acción siendo consciente de su ilicitud que cuando realiza esa misma acción sin ser consciente de su ilegalidad. La conclusión es, por tanto, no sólo que la sensación de culpabilidad tiene su reflejo en estados neurológicos concretos -algo que se podía intuir sin necesidad del estudio-, sino que dicha “culpabilidad” puede percibirse por un agente externo. La utilidad de dicho descubrimiento, una vez se desarrolle, será tremenda, facilitando de manera evidente la difícil tarea que tiene el juzgador de terminar, tanto en el ámbito penal, como en el civil o el administrativo, el grado de culpabilidad del sujeto que actúa, su buena o mala fe, la existencia de culpa o negligencia, etc.

Una consecuencia inmediata de dichos avances es no sólo que pueden facilitar de manera muy importante las labores del juez o de los abogados, sino que pueden suponer su sustitución por meros ordenadores. Al final, las pruebas se van a acabar basando, exclusivamente, en los datos suministrados por instrumentos, GPS etc., y por los resultados que arrojen los algoritmos que se vayan desarrollando para procesar dichos datos. Cuando ello ocurra, un ordenador será quien mejor pueda, de una manera más imparcial y precisa, sopesar dichas pruebas y dictar un veredicto. Nos gustará o no, pero la realidad es esa. El ser humano no es infalible; y si se demuestra que un ordenador puede ser menos falible que un juez, no veo razón para que no sea el ordenador quien imponga una pena o solvente una controversia entre particulares.

Pero las posibilidades que nos permiten vislumbrar dichos experimentos son todavía más amplias. Dado que la sensación de culpabilidad está relacionada con un determinado estado mental, si cambiamos artificialmente, y a través de la química, ese estado mental ¿podemos también cambiar a nuestro antojo la sensación de culpabilidad del sujeto al realizar una acción concreta? ¿Bastará con darle una pastilla a un criminal, en lugar de tener que meterlo en la cárcel, para garantizar que no vuelva a cometer un delito determinado? Y si eso lo extrapolamos a otros ámbitos: ¿acaso los sentimientos de amor, compasión, odio, envidia, celos no son, posiblemente, estados neurológicos específicos, determinados y medibles? ¿Y el tesón o la apatía, la constancia o la dejadez o la indolencia? ¿Llegará un momento en el que podamos ser casi como queramos en función de la pastillita que nos tomemos en cada instante?  Si nuestros padres, por nuestro bien y por el suyo, pasasen a educarnos a través de pastillas desde nuestra más tierna infancia, dados sus buenos resultados ¿no seríamos mejores, más sociables, más eficientes, más útiles para los demás? ¿Dónde quedaría nuestra libertad? Aunque, si nos dejan libres, y sin depender de las pastillas, ¿no tendremos una desventaja competitiva clara respecto del resto de congéneres?

Comentarios

FaKeD13

Películas como Matrix han hecho mucho daño al respecto, no sólo el ludismo. Frases por parte del agente Smith como: sólo una mente humana puede inventar algo tan insulso como el amor.
No es por spoilar, sorry.
Lo mejor de la trilogía de los hermanos "wanchinclosqui", los special effects y la pareja protagonista.
Sobre lo demás, no sé si es que les sentaba mal lo que comían antes del rodaje o qué.
Bastantes demagogias y encima baratas, por eso hay tantas supongo.

Todavía no he visto yo a una máquina que mate a un ser humano y menos voluntariamente, qué cosas.
Y qué decir de que si habéis visto otra película que se llama SIMONE, os saltará la hiel de pensar que encima se puede crear una jamelga. Y qué decir otra vez de la posibilidad de programarla para que encima te quisiera. El acabose. Ya sólo quedaría ponerle una vagina de carne para que no estuviera tan fría.
Y lo mismo supongo que por parte de las mujeres.

En fin, alejándonos un poco del cachondeo, a mí este tema siempre me ha interesado porque se eliminarían los sesgos que tú dices, la corrupción en todos los aspectos (yo conozco un caso judicial de traca) y el no-reconocimiento.
Cosas muy humanas y muy perniciosas a la vez.

Gran artículo.

John Finnis

Estimado Jaime,
Se te ve un poco flojo en filosofía del derecho (u obsoleto, con positivismos anticuados y completamente superados). Tu argumentación flaquea por muchos lados, pero quiero centrarme en uno concretamente. Afirmas que ese ordenador podrá emitir sentencias mucho más "precisas" que un juez. Pero parece que te olvidas de que el derecho es una ciencia social, es decir, requiere de comportamientos sociales, es decir, requiere de normas jurídicas. Si implantaramos un sistema judicial centrado en máquinas, ¿cuál crees que sería el poder que tendría el Estado? Nada limita más el poder del Estado que los individuos, y en el ámbito del derecho, los jueces son una prueba de ello (mira el neoconstitucionalismo si no).
Un saludo.

FaKeD13

JOHN FINNIS, ¿pero a ti quien te ha dicho que las máquinas no podrían también ser sociales?
Es más, los seres vivos según Paco Capella son máquinas sólo que biológicas y más o menos sofisticadas.
Espero que hayas leído mi comentario y entiendas porque es preferible esto debido a que pueden ser programadas y hacer que carezcan de sesgos cognitivos, que no se corrompan...
A los seres humanos muchas veces no los puedes hacer cambiar ni de opinión, mucho menos programarlos.

FaKeD13

por qué* me cachis con el autocorrector xD

Añadir nuevo comentario