En el imaginario popular, la inteligencia artificial sobrehumana se percibe como un maremoto inminente que amenaza no solo los empleos y las relaciones humanas, sino a la civilización misma. El conflicto entre humanos y máquinas se considera inevitable, y su desenlace, demasiado predecible.
En este libro innovador, el destacado investigador en inteligencia artificial Stuart Russell sostiene que es posible evitar este escenario, pero solo si replanteamos la IA desde sus cimientos. Russell comienza explorando el concepto de inteligencia, tanto en los seres humanos como en las máquinas. Describe los beneficios a corto plazo que podemos esperar —desde asistentes personales inteligentes hasta una aceleración significativa de la investigación cientÃfica— y detalla los avances tecnológicos necesarios antes de alcanzar una inteligencia artificial sobrehumana. Asimismo, expone las formas en que los seres humanos ya están haciendo un uso indebido de la IA, que van desde el desarrollo de armas autónomas letales hasta el sabotaje a gran escala.
Si los avances previstos se materializan y surge una inteligencia artificial sobrehumana, habremos creado entidades mucho más poderosas que nosotros mismos. ¿Cómo podemos garantizar que nunca, bajo ninguna circunstancia, lleguen a tener poder sobre nosotros? Russell sugiere que es posible reconstruir la IA sobre una nueva base: diseñar máquinas que mantengan una incertidumbre inherente respecto a las preferencias humanas que deben satisfacer. Estas máquinas serÃan humildes, altruistas y estarÃan dedicadas a perseguir nuestros objetivos, no los suyos propios. Este nuevo enfoque nos permitirÃa crear sistemas que, de manera demostrable, actúen con deferencia hacia nosotros y resulten beneficiosos.

0 Comentarios