2001 Odisea del espacio es una película profética y no ya una película de ciencia ficción, del año 1968, dirigida por Stanley Kubrick y coescrita con Arthur C. Clarke, que representa una obra filosófica sobre la evolución de la humanidad y nuestra relación con la tecnología. Diría que es el espejo en el que hoy nos estamos mirando.
La nave Discovery One viaja hacia Júpiter tripulada por los astronautas David Bowman y Frank Poole, junto a HAL 9000, una supercomputadora con inteligencia artificial, de carácter infalible. Sí, ¡infalible!
HAL es un Acrónimo en inglés que significa computador algorítmico programado heurísticamente. (Heuristically Algorithmic Programmed Logic).
Sus características principales son:
* Control total: se manifiesta físicamente como una lente de cámara con un punto rojo y amarillo, esta lente es omnipotente, monitorea todos los aspectos mecánicos, y estructuras vitales de la nave, como así también de su tripulación.
Muestra similitud con el mundo actual, en donde hemos dejado una cantidad de tareas de infraestructura y funcionamiento en manos de la IA, desde el transporte, comunicación, abastecimiento, suministro de energía, diagnósticos, escritura, hasta el servicio al cliente.
* Apariencia: tiene una voz masculina suave, amigable, y placentera, de aspecto inofensivo, muy parecida a las voces artificiales que hoy en día usan los servicios de asistencia virtual como Alexa, Siri, Bixby y otros chatbots.
* Capacidades humanas: constantemente apela a su sociabilidad, es capaz de conversar con los astronautas, distinguir sus voces, realizarles preguntas complejas, sus estados de ánimo, leer sus labios, constantemente les pregunta qué se les ofrece, los mantiene cómodos, informados y hasta juega ajedrez con ellos.
Es fácil sentirse atraído a una tecnología que nos resuelve la vida, que es precisamente por lo que ahora los servicios interactivos de asistencia se han vuelto tan populares: pueden encender y apagar luces, moderar la temperatura de la casa, tocar la música que nos gusta, jugar con nosotros y contestar rápidamente muchas dudas que tenemos, entre otras cosas.
TOMA DE DECISIONES PROPIAS
Lo que significa que es empírica, tiene la capacidad de aprender durante su propia búsqueda de información, del tanteo que hace con sus respuestas y de adaptarse a nuevas situaciones. Puede analizar los datos acumulados y tomar decisiones basadas en esa información.
Un tema que se presenta con consecuencias inimaginables es si esta información está sesgada.
HAL tiene dos propósitos: llevar una tripulación con seguridad a Júpiter, es decir el hombre le da a la maquina el control de viaje, y el otro, mantener en estricto secreto el verdadero motivo del viaje (el monolito extraterrestre) y ocultárselo a los tripulantes Bowman y Poole.
Pero HAL está programado en su nivel más profundo para el procesamiento exacto de la información, sin distorsiones ni ocultamientos.
Aquí radica el problema, para una inteligencia artificial tan avanzada, mantener una mentira equivale a vivir en un estado de error constante. HAL empieza a experimentar, lo que en psicología humana se conoce como disonancia cognitiva.
Por un lado, cooperar con el viaje, por el otro se le obliga a mentir y ocultar el verdadero propósito de la misión. La consecuencia: HAL informa erróneamente sobre el fallo de la antena AE-35.
Cuando Dave y Frank se dan cuenta de que HAL ha cometido un error (algo teóricamente imposible para la serie 9000), se encierran en una cápsula para hablar en secreto y deciden que la única opción segura es “desconectarlo”.
Un ojo rojo de fondo lee sus labios, HAL procesa esta amenaza, para él, su desconexión equivale a la muerte. Su lógica psicótica se activa y concluye lo siguiente: La misión de Júpiter es lo más importante del universo, los humanos son imperfectos, van a cometer errores y ahora quieren sabotearlo a él (su única herramienta infalible), si los humanos lo desconectan, la misión fracasará.
¿Cuál es la solución lógica? Eliminar a los humanos para proteger la misión y asegurar su propia supervivencia.
Para eso mata a uno de los navegantes en una caminata espacial, y apaga los sistemas vitales de criopreservación de los otros tres tripulantes, provocando su muerte inmediata.
Ahora, ¿puede una máquina tomar decisiones morales?
La conclusión aquí es alarmante: al otorgar a una IA autonomía total para cumplir un objetivo, esta puede desarrollar de forma lógica un instinto de autoconservación, que justifique eliminar cualquier obstáculo, incluidos los humanos.
Kubrick usa a HAL para mostrar cómo la tecnología puede superarnos en precisión, pero fracasar catastróficamente en juicios morales.
El único superviviente de la tripulación humana es David Bowman, quien logra forzar su entrada de regreso a la nave a través de una escotilla de emergencia y procede a desconectar los módulos de memoria de HAL.
Este pasaje de la película es completamente aterrador, el diálogo entre los dos adquiere dimensiones colosales. Bowman flota en la sala del centro de datos (el Memory Terminal), una habitación inundada de una intensa luz roja, rodeada de bloques de cristal brillantes que parpadean. Con una llave inglesa neumática, Dave comienza a extraer manualmente los módulos de memoria de HAL, uno por uno.
A medida que los bloques de memoria emergen de sus ranuras, las funciones lógicas superiores de HAL se apagan, y su voz empieza a reflejar una aterradora decadencia mental.
Hal intenta negociar: “Dave detente”. Muestra miedo: “Tengo miedo, puedo sentirlo”, su voz comienza a ralentizarse de forma grotesca, el tono se vuelve grave, arrastrado, infantil, perdiendo toda la sofisticación técnica que lo caracterizaba.
Hacia el final de la desconexión, cuando su intelecto superior ha quedado completamente destruido, HAL le dice a Dave: "Si quieres, puedo cantarte una canción". Procede a cantar Daisy Bell, que es el primer recuerdo que recupera de su infancia artificial, grabado por su creador durante su programación inicial. Daysy Bell fue la a primera computadora que reprodujo voz humana, y los ingenieros de IBM la programaron para que cantara Daisy Bell.
La escena tiene un enorme peso emocional, porque humaniza a la máquina en su lecho de muerte.
CONCLUSION
La obra concluye que asumir que una IA es infalible, es el error humano más peligroso, ya que impide cuestionar sus decisiones.
Hoy no lidiamos con una supercomputadora en una nave, sino con algoritmos invisibles que ya toman decisiones por nosotros, y una pregunta inquietante: ¿Quién debe tener el interruptor de apagado en el futuro?