Los humanos somos seres muy creativos, lo que nos permite detectar fallas en determinados sistemas (no solo informáticos) para manipularlos y ejercer influencia. Sin embargo, esta capacidad puede extenderse también a la inteligencia artificial. Una publicación de la revista Wired indaga en la problemática de una IA capaz de encontrar vulnerabilidades en sistemas sociales, económicos y políticos y explotarlos a una nueva escala.
La IA no soluciona problemas como nosotros. Estos sistemas encuentran caminos totalmente distintos a los que cada vez entendemos menos como llegaron. A su vez, las conclusiones de la IA no tienen en cuenta sus implicancias, contextos, normas y valores que los humanos tomamos por dadas. Por ejemplo, imaginen una IA involucrada en el sistema financiero dado el objetivo de “maximizar los ingresos”. A diferencia de un humano, esta puede manejar variables impensadas para nosotros y modificar muchas más reglas.
Sin embargo, la tecnología no es determinista. Esta capacidad de la IA puede revertirse y usarse para hacer nuestras instituciones y sistemas más resilientes. Imagine ahora, por ejemplo, una IA que busque huecos legales en la recaudación de impuestos.