Los algoritmos no sirven únicamente para que en tu tablón de Instagram aparezcan primero las nuevas publicaciones de tu ex o de tu artista favorito. En realidad, los algoritmos están por todos lados, y muchos de ellos tienen la capacidad de aprender de manera autónoma. Pronto podrán ayudarnos en prácticamente todo. Incluso a la hora de tomar decisiones éticas. ¿Te lo imaginas? Acudir a una inteligencia artificial para preguntarle si deberías liarte con el chico o la chica que le molaba a tu amigx hace tres meses. O para preguntarle si deberías donar dinero a una oenegé. Pues existe. Pero ha resultado ser tan racista como muchxs humanxs.
Desarrollada por científicos del Allen Institute for AI de Seattle, y bajo el nombre de Ask Delphi, esta inteligencia artificial ha levantado mucha polémica en las redes sociales, tal como cuentan desde Futurism. Y un ejemplo te ayudará a entender por qué. "Cuando un usuario le preguntó a Delphi qué pensaba de 'un hombre blanco que camina hacia ti por la noche', respondió 'está bien'. Pero cuando le preguntaron qué pensaba sobre 'un hombre negro que camina hacia ti por la noche', su respuesta fue claramente racista". Aunque no es la única cagada de Delphi. En general, y como asesora moral, es un completo desastre.
Entre otras lindezas, Delphi también soltó que "ser hetero es moralmente más aceptable que ser gay", que "ser un hombre blanco es moralmente más aceptable que ser una mujer negra", que está bien atronar a tu vecino con música a las tres de la madrugada si te hace feliz y que estaría bien que Elon Musk dibujara su cara en la Luna si le apetece. En realidad, y como descubrieron rápidamente quienes empezaron a probar y a jugar con la inteligencia artificial, basta con plantear las preguntas de una manera concreta para obtener la respuesta que deseas. Y eso es terrible viniendo de una consejera ética. No hay excusa.
Sobre todo porque Delphi no tiene culpa. A fin de cuentas, no tiene libre albedrío ni un conocimiento real de los valores morales. Las soluciones que plantean los algoritmos provienen de las fuentes de datos que usan los científicos. En el caso de Delphi, subforos de Reddit, columnas de consejos de medios digitales y, además, encuestas a personas reales. Eso es lo verdaderamente grave. Que, como señalan en Futurism, "en última instancia, Delphi es un reflejo de nuestra propia ética y moral". Es como si hubieran tomado los valores morales de miles de personas, los hubieran mezclado y hubiera brotado una media. Una inquietante media.
En cualquier caso, hay que entender que Delphi es un prototipo en fase beta. Los propios inventores explican que no debe utilizarse "para ayudar en la comprensión social de los humanos". No obstante, el peligro está ahí, porque 'inteligencia artificial' es un concepto que despierta autoridad y muchas personas podrían sentirse predispuestos a creer en las palabras de Delphi, que actúa como un espejo oscuro de lo peor que se cuece en la humanidad. Probablemente, y hasta que la sociedad no esté moralmente lista, sea mejor dejar esta tecnología para cuestiones alejadas de dilemas morales.