La cosa más rara que una Inteligencia Artificial podría decirte…
[Por Eliezer Yudkowsky para Lesswrong.com] Los seres humanos estamos todos locos. Y si algo se nos revuelve en el cerebro, nos volvemos tan locos que incluso el resto de los humanos lo percibe. Uno de mis ejemplos favoritos sobre este asunto son losanosognósicos; personas que han sufrido daños en el hemisferio derecho cerebral que provocan la paralización del brazo izquierdo, y que se niegan a aceptar que sus brazos están paralizados. En lugar de asumir la triste realidad, cuando se les pregunta por qué no mueven el brazo izquierdo, los anosognósicos se inventarán cualquier excusa.
Sin duda esta es una forma asombrosa de daño cerebral ya que desactiva la habilidad de notar o aceptar un daño cerebral. Si te dicen de forma rotunda que tu brazo está paralizado, lo negarás. Todas las maravillosas facultades de generar y racionalizar excusas con las que cuenta tu cerebro se movilizarán masivamente para enmascarar el daño a tus propios ojos.
Tal y como mi compañero Yvain resumió en este otro post:
Tras un infarto en el hemisferio derecho, la paciente perdió el movimiento en el brazo izquierdo, pero lo negaba continuamente. Cuando el doctor le pidió que moviera el brazo y observó que no se movía, ella afirmó que en realidad no era su brazo, sino el de su hija. ¿Qué hacía el brazo de su hija pegado a su hombro? La paciente respondió que su hija había estado allí mismo, en su cama, durante las últimas semanas. ¿Por qué llevaba su alianza matrimonial en el brazo de su hija? La paciente contestó que su hija se lo había pedido. ¿Dónde estaba entonces su brazo? La paciente volvió la cabeza y comenzó a buscar de forma perpleja por encima de su hombro.
Encontré realmente perturbador que el cerebro cuente con una “macro de la negación absoluta” tan sencilla a la que poder apelar, como efecto secundario de una parálisis. Asombra que un único golpe en el cerebro pueda deshabilitar la función motora en el lado izquierdo y al mismo tiempo desactivar nuestra capacidad de reconocer o aceptar dicha discapacidad. Existen otras formas de daño cerebral que también parecen provocar una lesión y la incapacidad para reconocerla; por ejemplo, algunas personas que sufren daños en las áreas encargadas del reconocimiento facial, insisten en que sus amigos han sido remplazados por duplicados exactos.
Y es algo que realmente hace que te preguntes… ¿qué pasaría si todos compartiésemos una forma de daño cerebral común, de modo que ningún ser humano percibiese ciertos hechos sencillos y obvios? ¿Cosas tan flagrantes, tal vez, como que nuestros brazos izquierdos están paralizados? Cada vez que este asunto se inmiscuyera en nuestro universo, lo contrarrestaríamos con alguna excusa ridícula – tan ridícula como “es el brazo de mi hija” – aunque en este caso no habría ningún doctor cuerdo que hiciera las preguntas lógicas adecuadas y que nos forzase a ir complicando más y más las respuestas. (¿Usaríamos todos la misma excusa?)
Si la “macro para la negación absoluta” es así de simple, y se la invoca de una forma tan sencilla… supón que necesitas construir una Inteligencia Artificial (AI). Escribes el código fuente tu mismo, y en tanto a lo que podrías decir inspeccionando los procesos de razonamiento de la AI, esta no cuenta con la “macro de negación absoluta” ya que carece del daño que podría provocarle el equivalente a la anosognosia. La AI cuenta con sistemas redundantes diseñados con arquitecturas diversas, lo cual la defiende en profundidad contra errores cognitivos. Si uno de los sistemas comete un fallo, los otros lo detectan. La AI no posee ninguna funcionalidad que la permita deliberar la racionalización, y por supuesto tampoco es capaz del pensamiento doble y la negación de una negación típica de los anosognósicos y del pensamiento político humano. Observando el proceso de pensamiento de la AI, te das cuenta de que no tiene intención de engañarte sino que su objetivo explícito es el de decirte siempre la verdad. Y a medida que vas trabajando con ella, observas que la AI ha quedado casi de forma inhumana, excelentemente calibrada. De hecho tu y ella habéis estado de acuerdo en un 99% de las 200 ocasiones en que has apelado a su juicio, y solo habéis estado en desacuerdo en un par de ocasiones que tu sepas.
Podría decirse que ahora cuentas con más razones para confiar en lo que dice la AI que en lo que tus propios pensamientos indican.
Y entonces la AI te dice que está segura en un 99,9% – habiéndolo visto a través de sus propias cámaras y habiéndolo confirmado tras consultar un centenar más de fuentes – a pesar de que (es consciente) de que el cerebro humano empleará la macro absoluta de negación al respecto, de que los humanos… ¿qué?
¿Cual sería la cosa más absurda que la AI podría decir, tal que te llevara a desear fervientemente que la mente artificial estuviera en lo cierto?
——————-
Bonito ejercicio de filosofía ¿verdad? Espero vuestros comentarios.
Muchas gracias a José Cuesta por enviarme el enlace para que tradujera el texto. Realmente da que pensar.
No hay comentarios:
Publicar un comentario