
“Las cosas se desmoronan; el centro no puede sostenerse.” WB Yeats, “La Segunda Venida”
Hemos estado sufriendo una auténtica cascada de fallos tecnológicos.
Primero se produjo una interrupción masiva del servicio de Microsoft que afectó a Outlook y otros servicios en línea en todo el mundo.
Luego se produjo una paralización total del tráfico aéreo en todo Estados Unidos, interrumpiendo miles de vuelos y dejando a los viajeros varados.
Posteriormente, los principales bancos experimentaron problemas con sus sistemas en línea.
Posteriormente, United Airlines suspendió los vuelos de salida tras otro fallo informático.
Luego, se informó que la red altamente clasificada que la Agencia de Seguridad Nacional utiliza para sus comunicaciones internas había dejado de funcionar.
Posteriormente, Apple se unió a la creciente lista de gigantes tecnológicos que experimentan interrupciones generalizadas, con usuarios que reportan problemas para acceder a iCloud, la App Store, Apple Music y otros servicios.
Una avería tras otra. Comunicaciones interrumpidas. Transporte paralizado. Servicios financieros interrumpidos. Información confidencial potencialmente en riesgo. Millones de estadounidenses recordaron hasta qué punto su vida diaria depende de tecnologías que ni comprenden ni controlan.
Esto es lo que sucede cuando la tecnología falla.
¿O no?
Las especulaciones no tardaron en señalar a la inteligencia artificial como responsable, especialmente tras el cierre de las aerolíneas en todo el país.
Después de todo, la administración Trump apenas había extendido recientemente el nuevo sistema de inteligencia artificial SMART de la FAA a los centros de control de tráfico aéreo de todo el país.
La administración también ha estado promoviendo agresivamente la IA (o SI, por Superinteligencia, como insiste Trump en que se la llame) como la respuesta a todo, desde la ineficiencia gubernamental hasta la seguridad nacional, incluso mientras impulsa la reducción de las barreras regulatorias y la expansión del uso de sistemas automatizados.
Sin embargo, la administración Trump insiste en que la IA no tuvo nada que ver con el cierre de la aerolínea.
En cambio, los funcionarios federales atribuyeron la interrupción a un fallo en la infraestructura de control de tráfico aéreo, que ya estaba obsoleta, y que se produjeron problemas durante la sustitución de equipos y la actualización de los sistemas de comunicación.
Quizás sí
Mientras tanto, el FBI publicó un informe sobre otro peligro tecnológico: las herramientas de pirateo con inteligencia artificial autónoma, como Artex AI, que se están utilizando para lanzar ciberataques en Estados Unidos y en todo el mundo, y para vulnerar redes en menos de tres horas.
Pero ya sea que la causa sea la inteligencia artificial, los ciberatacantes, los equipos obsoletos, la mala planificación, el mantenimiento inadecuado, el error humano o alguna combinación de estos factores, el problema principal persiste.
¿Quién es el responsable cuando los sistemas tecnológicos de los que depende la sociedad empiezan a fallar?
¿Quién es responsable cuando los funcionarios gubernamentales y los ejecutivos de las empresas se apresuran a adoptar nuevas tecnologías sin asegurarse de que existan las salvaguardias, la infraestructura y la supervisión humana necesarias para gestionarlas?
¿Y qué ocurre cuando nos volvemos tan dependientes de la tecnología —y tan dispuestos a renunciar a la responsabilidad de gestionarla— que ya no podemos distinguir entre el fallo de una máquina y el fallo de los seres humanos a quienes se les ha confiado su funcionamiento?
Hemos estado formulando la pregunta equivocada sobre la inteligencia artificial.
Quizás el verdadero peligro no reside en que las máquinas puedan llegar a ser más inteligentes que los seres humanos.
Quizás se trate del hambre humana de poder y de nuestra disposición a ceder el control a quienes lo detentan.
Hollywood lleva décadas advirtiéndonos sobre máquinas que algún día podrían llegar a ser tan inteligentes, tan independientes y tan poderosas que ya no necesitarían a los seres humanos.
En 2001: Una odisea del espacio, de Stanley Kubrick, la aparentemente infalible computadora HAL 9000 se vuelve contra los astronautas que le han confiado sus vidas. La máquina, diseñada para servir a la humanidad, se convierte en una amenaza para las mismas personas a las que fue creada para ayudar.
Sin embargo, la visión más inquietante podría provenir de una fuente inesperada: la película infantil de animación de Pixar, WALL-E. En WALL-E, la humanidad ha abandonado una Tierra inhabitable y se ha refugiado en una enorme nave espacial donde prácticamente todas las necesidades humanas son anticipadas y satisfechas por máquinas.
La gente ya no camina. Ya no trabaja. Apenas se fija en el mundo que la rodea. Se entretiene, se alimenta, se transporta y se distrae mediante sistemas que toman prácticamente todas las decisiones por ella. Se ha convertido en consumidora pasiva de su propia existencia.
Las máquinas no han necesitado librar una guerra contra la humanidad. Los seres humanos, en gran medida, han renunciado voluntariamente a su independencia, intercambiando responsabilidad por comodidad y libertad por bienestar. Incluso el capitán del barco debe luchar para recuperar su autoridad de un sistema automatizado programado para mantener el statu quo.
La distinción es reveladora.
En 2001, la pesadilla es una máquina que se niega a ceder el control. En WALL-E, la pesadilla es una humanidad que ha olvidado cómo ejercerlo. Ambas películas llegan a una inquietante conclusión: la tecnología se vuelve peligrosa cuando los seres humanos dejan de ejercer un control efectivo sobre ella.
Y ahí radica el problema: hemos confundido el progreso tecnológico con el progreso humano.
Nos hemos vuelto extraordinariamente hábiles en la invención de máquinas capaces de realizar tareas que las generaciones anteriores apenas podían imaginar.
Podemos dividir átomos, lanzar cohetes al espacio, comunicarnos instantáneamente a través de continentes, mapear el genoma humano, monitorear poblaciones desde satélites y construir computadoras capaces de procesar cantidades ingentes de información. Sin embargo, ninguno de estos logros tecnológicos nos ha hecho necesariamente más sabios, más compasivos, más éticos o más capaces de ejercer autocontrol.
La historia demuestra con qué facilidad los seres humanos convierten sus mayores inventos en instrumentos de destrucción, explotación y control.
Consideremos la bomba atómica.
El descubrimiento de la fisión nuclear abrió la puerta a extraordinarios avances científicos. También hizo posible la creación de armas capaces de arrasar ciudades enteras.
En agosto de 1945, Estados Unidos lanzó bombas atómicas sobre Hiroshima y Nagasaki, matando a decenas de miles de personas de inmediato y a muchas más posteriormente.
Las bombas no decidieron destruir esas ciudades. Lo hicieron los seres humanos.
La misma tecnología que hizo posible lanzar cohetes al espacio también hizo posible la creación de misiles capaces de transportar ojivas nucleares a través de continentes.
Los mismos ordenadores que revolucionaron la medicina, la ciencia, la educación y la comunicación han contribuido al surgimiento de un estado de vigilancia capaz de monitorear y rastrear poblaciones enteras.
Internet, otrora aclamado como un instrumento de libre expresión y conocimiento democratizado, se ha convertido también en una herramienta para recopilar información personal, manipular el comportamiento y vigilar la disidencia.
Las cámaras se convierten en instrumentos de vigilancia. Las bases de datos se convierten en herramientas para elaborar perfiles y seleccionar personas. Los drones se convierten en armas de guerra a distancia.
Y ahora la inteligencia artificial amenaza con magnificar todas estas capacidades, permitiendo a gobiernos, corporaciones y criminales monitorear, manipular y controlar el comportamiento humano a una escala sin precedentes.
Puede que la tecnología sea nueva, pero los impulsos humanos que llevan a su mal uso son tan antiguos como la civilización misma.
Consideremos la última advertencia del FBI sobre ARTEX, una herramienta de inteligencia artificial desarrollada originalmente para ayudar a los profesionales de la ciberseguridad a identificar vulnerabilidades en las redes informáticas.
En manos de los ciberdelincuentes, esa misma tecnología se ha convertido en un arma.
Según el FBI, los piratas informáticos han utilizado ARTEX para automatizar ciberataques contra instituciones financieras, agencias gubernamentales y empresas privadas, y algunos ataques han progresado desde el objetivo inicial hasta el acceso privilegiado en menos de tres horas.
Mientras tanto, el Grupo de Inteligencia de Amenazas de Google advierte que los ciberdelincuentes están desplegando cada vez más sistemas de IA autónomos capaces de identificar vulnerabilidades y llevar a cabo ataques a la velocidad de las máquinas, con una intervención humana drásticamente reducida.
Piensa en eso
La tecnología destinada a identificar vulnerabilidades de seguridad y proteger las redes informáticas se está convirtiendo en un arma para explotar esas vulnerabilidades.
Las máquinas no desarrollaron repentinamente intenciones criminales. Los seres humanos crearon las herramientas, identificaron los objetivos y pusieron los sistemas en funcionamiento.
La inteligencia artificial no ha eliminado la codicia, la arrogancia ni la sed de poder humanas. Simplemente ha dado mayor alcance, mayor velocidad y mayor poder a esos impulsos.
No podemos permitirnos ignorar a los seres humanos que están detrás de las máquinas: las personas que crean los sistemas, los financian, los implementan, se benefician de ellos y miran hacia otro lado cuando esos sistemas se utilizan para violar los derechos humanos.
Y, sobre todo, no podemos permitirnos ignorar a quienes utilizan estas tecnologías en nombre del gobierno.
Cada vez con mayor frecuencia, nos encontramos navegando por un mundo en el que las agencias gubernamentales recurren a las computadoras como intermediarias en la relación entre el gobierno y la población.
Se nos pide que aceptemos las decisiones computarizadas porque parecen objetivas. Se nos insta a entregar información personal porque la comodidad parece más importante que la privacidad. Se nos persuade para que permitamos que los sistemas automatizados tomen decisiones trascendentales sobre vidas humanas porque cuestionar esos sistemas requiere esfuerzo, experiencia y vigilancia.
Y nos vemos obligados a lidiar con las consecuencias de un gobierno que trata cualquier cosa generada por una computadora como evidencia que debe ser correcta.
Pero las computadoras pueden equivocarse. Los algoritmos pueden estar sesgados. Las bases de datos pueden contener errores. Los sistemas automatizados pueden perpetuar y magnificar los errores, los prejuicios y las agendas políticas de quienes los construyen y operan.
La codicia convierte los avances tecnológicos en oportunidades para la explotación.
Los datos personales se convierten en una mercancía. El comportamiento humano se transforma en algo predecible, manipulable y monetizable. La promesa de una mayor eficiencia se convierte en justificación para recortar gastos, eliminar las medidas de seguridad humanas y concentrar aún más poder en menos manos.
Y cuando algo sale mal, las consecuencias no recaen necesariamente sobre quienes se beneficiaron de la tecnología, sino sobre la gente común cuyas vidas dependen de ella.
La arrogancia y la sed de poder convencen a quienes ostentan el poder de que la capacidad tecnológica es una luz verde para seguir adelante.
Como el gobierno puede monitorear las comunicaciones, asume que debe hacerlo. Como puede rastrear los movimientos de las personas, lo hace. Como puede desplegar drones, algoritmos predictivos, sistemas de reconocimiento facial y armas cada vez más autónomas, lo hace.
Pero la capacidad de hacer algo nunca ha sido lo mismo que el derecho a hacerlo.
El gobierno no adquiere una exención constitucional simplemente porque sus abusos sean perpetrados por una computadora en lugar de un ser humano. De hecho, cuanto más poderosa es la tecnología, mayor es la necesidad de establecer límites efectivos para quienes la controlan.
Hace cincuenta años, el Comité Church del Senado expuso los extensos abusos cometidos por las agencias de inteligencia estadounidenses, incluidas las operaciones de vigilancia dirigidas contra ciudadanos que ejercían sus derechos constitucionales.
La advertencia era inequívoca: el poder gubernamental, sobre todo cuando se ejerce en secreto y sin una supervisión efectiva, puede convertirse en una amenaza directa para las libertades que se supone que debe proteger.
Eso fue en 1976
Hoy en día, las capacidades de vigilancia de las que disponen los organismos gubernamentales habrían sido prácticamente inimaginables para los funcionarios investigados hace medio siglo.
Sin embargo, las cuestiones constitucionales siguen siendo las mismas.
¿Quién vigila a los vigilantes? ¿Qué sucede con la Cuarta Enmienda y el debido proceso cuando la vigilancia y las decisiones que afectan la libertad se confían a sistemas tecnológicos opacos? ¿Quién exige responsabilidades al gobierno cuando utiliza la tecnología para eludir las limitaciones constitucionales destinadas a controlar su poder?
No se trata simplemente de cuestiones tecnológicas. Son cuestiones sobre el poder, la libertad y la responsabilidad humana.
Hace cuarenta años, en 1986, exploré muchas de estas preocupaciones en mi libro El fin del hombre.
En una época en la que la inteligencia artificial parecía estar confinada en gran medida a los laboratorios y la ciencia ficción, dediqué un capítulo a las implicaciones de crear máquinas que podrían moldear cada vez más —y potencialmente disminuir— nuestra comprensión de lo que significa ser humano.
La preocupación no radicaba simplemente en que las computadoras pudieran llegar a ser lo suficientemente poderosas como para dominar la sociedad. El problema era que los propios seres humanos se veían cada vez más reducidos a sistemas de información, objetos que debían clasificarse, estudiarse, gestionarse y manipularse.
Como advertí entonces: "El hombre no es una máquina".
Los seres humanos somos más que procesadores de información, datos o conjuntos de comportamientos predecibles. Nuestra humanidad está intrínsecamente ligada a nuestra capacidad de compasión, conciencia, juicio independiente y responsabilidad moral.
Sin embargo, hace tan solo cuarenta años, ya comenzábamos a vernos a nosotros mismos como poco más que máquinas.
La pregunta que planteé entonces sigue siendo igual de urgente hoy: "¿Cómo nos veremos a nosotros mismos mañana?".
Cuatro décadas después, ese mañana ha llegado.
Cada vez estamos más dispuestos a permitir que las máquinas tomen decisiones que deberíamos cuestionar, que las corporaciones manipulen la información y que los gobiernos adquieran poderes de vigilancia que habrían horrorizado a generaciones anteriores.
Y cuando esos sistemas fallan —o se utilizan deliberadamente para violar nuestros derechos— permitimos que los responsables se escuden en la propia tecnología. «El ordenador cometió el error», «el algoritmo señaló a la persona equivocada», «la base de datos contenía un error», «la inteligencia artificial tomó la decisión», como si la máquina fuera un agente moral independiente, en lugar de un sistema diseñado, implementado y controlado por seres humanos.
Existe una diferencia importante entre una máquina que falla y un ser humano que se niega a aceptar la responsabilidad de su fallo.
Precisamente por eso la Constitución es importante.
La Declaración de Derechos no fue escrita para un mundo de inteligencia artificial, reconocimiento facial, recopilación masiva de datos o guerra automatizada. Fue escrita para un mundo en el que no siempre se podía confiar en que los seres humanos, investidos de poder, lo ejercieran de manera responsable.
La codicia sigue siendo codicia. La arrogancia sigue siendo arrogancia. Y la tiranía no se vuelve menos peligrosa simplemente porque sea administrada por un algoritmo.
Tampoco podemos esperar que la tecnología nos rescate de las fallas morales de quienes la utilizan.
Un ordenador más inteligente no puede sustituir a una conciencia funcional. Un gobierno más eficiente no puede compensar la pérdida de las restricciones constitucionales. Una sociedad tecnológicamente más avanzada no es necesariamente una sociedad más libre, más sabia o más humana.
En El fin del hombre, también contemplé un futuro en el que las creaciones tecnológicas de la humanidad podrían volverse tan poderosas que pretenderían ocupar el lugar de Dios. Escribí:
Si todo sale según lo previsto para la IA, podemos imaginar y esperar un futuro «metálico». Podría ser algo así: en algún puesto remoto del futuro lejano, donde todas las computadoras del universo están interconectadas, un humano de aspecto sombrío pregunta: «¿Existe Dios?». Las computadoras, reprendiéndolo por su insolencia, responden: «Ahora sí».
Avancemos hasta 2021, cuando Mo Gawdat, un exejecutivo de Google, advirtió sobre el extraordinario poder de la inteligencia artificial: “La realidad es que estamos creando a Dios” .
Piensa en eso
Nos hemos obsesionado tanto con nuestros propios inventos, nos hemos convencido tanto de nuestra brillantez tecnológica, que estamos contemplando la creación de máquinas cuyo poder podría rivalizar —y eventualmente superar— nuestra capacidad para controlarlas.
Sin embargo, quizás el mayor peligro no sea que las máquinas se conviertan en dioses.
Es que los seres humanos, en su arrogancia y sed de poder, comenzarán a actuar como si fueran dioses.
Hemos confundido el progreso tecnológico con el progreso humano. Hemos confundido la inteligencia con la sabiduría, el poder con la virtud y la capacidad de hacer algo con el derecho a hacerlo.
Y, al igual que en WALL-E, corremos el riesgo de acostumbrarnos tanto a ser gestionados, entretenidos y protegidos por sistemas que escapan a nuestro control, que olvidamos lo que significa gobernarnos a nosotros mismos.
Cuarenta años después de El fin del hombre, la pregunta que se plantea a la humanidad no es simplemente cuán inteligentes llegarán a ser nuestras máquinas, sino cuánto de nuestra propia humanidad estamos dispuestos a sacrificar en la búsqueda del progreso tecnológico.
El mayor peligro quizás no provenga de una máquina que aprenda a pensar como un ser humano.
Puede provenir de seres humanos que dejan de pensar, de cuestionar, de resistir y de asumir la responsabilidad del mundo que están creando.
En definitiva, puede que las máquinas no sean las que provoquen el fin de la humanidad.
Podemos lograrlo por nuestra cuenta.
WC: 2486
John & Nisha Whitehead


.jpg)
.gif)