Bill Gates advierte que la IA podría facilitar eventos capaces de mil millones de muertes
El cofundador de Microsoft considera insuficiente que las empresas tecnológicas se autorregulen y reclama legislación, sistemas obligatorios de vigilancia y salvaguardas para controlar los usos más peligrosos de la IA
Diario Libre
El cofundador de Microsoft, Bill Gates, advirtió que la inteligencia artificial ha alcanzado un nivel de capacidad que podría permitir a personas con malas intenciones provocar acontecimientos capaces de causar hasta mil millones de muertes, y reclamó la intervención de los gobiernos para establecer controles obligatorios sobre el desarrollo y uso de esta tecnología.
Las declaraciones fueron ofrecidas durante una entrevista exclusiva con Kristen Welker, del programa Meet the Press de NBC News, difundida el domingo 27 de septiembre.
Gates sostuvo que la combinación entre personas con intenciones dañinas y las herramientas más avanzadas de inteligencia artificial representa una capacidad que no ha existido con tecnologías anteriores.
"La Inteligencia Artifciail, ciertamente es lo suficientemente poderosa para causar mil millones de muertes", declaró Gates al ser consultado sobre hasta dónde podrían llegar los riesgos de esta tecnología.
Entre sus principales preocupaciones se encuentran las posibilidades de que sistemas avanzados sean utilizados para facilitar ataques biológicos y cibernéticos, fraudes a gran escala u otras acciones que anteriormente requerían recursos técnicos y económicos al alcance principalmente de gobiernos o grandes organizaciones.
Pide legislación para regular la IA
Gates rechazó que las propias empresas encargadas de desarrollar los sistemas puedan ser las únicas responsables de establecer sus límites.
Al preguntarle Welker si la autorregulación de la industria era suficiente, respondió que no y respaldó expresamente la aprobación de legislación en Washington.
"Nadie cree que la autoregulación es suficiente", afirmó.
Según explicó, las autoridades, los organismos de seguridad y los responsables políticos deben participar en la definición de las salvaguardas y de los mecanismos de monitoreo que tendrían que cumplir las compañías que desarrollan los modelos más avanzados.
Gates considera que esos controles representarían un costo adicional para la industria, pero no necesariamente una paralización significativa del desarrollo tecnológico. Su propuesta se concentra en hacer obligatorios determinados mecanismos de seguridad y supervisión en lugar de depender únicamente de compromisos voluntarios adoptados por las compañías.
Un botón para apagar la IA no sería suficiente
Durante la entrevista, Gates también se refirió al debate sobre la posibilidad de establecer un denominado botón para matar la IA "kill switch", un mecanismo que permita apagar un sistema de inteligencia artificial cuando presente un comportamiento peligroso.
El empresario sostuvo que esa herramienta, por sí sola, no resolvería los riesgos que observa actualmente. Su preocupación inmediata no se concentra únicamente en la posibilidad futura de que una inteligencia artificial se vuelva autónoma e imposible de controlar, sino en lo que personas pueden hacer utilizando los sistemas que ya existen o que se desarrollarán próximamente.
Por esa razón, defendió mecanismos que permitan supervisar lo que realizan los modelos sofisticados y mantener registros de sus actividades.
Regularla internacionalmente será más difícil que las armas nucleares
Gates planteó además que el problema no puede ser abordado exclusivamente por Estados Unidos debido al carácter global del desarrollo de la inteligencia artificial.
Welker le preguntó si los acuerdos alcanzados entre Estados Unidos y la Unión Soviética durante la Guerra Fría para limitar las armas nucleares podían servir como modelo para una eventual negociación entre Washington y Pekín sobre inteligencia artificial.
Gates respondió que alcanzar un acuerdo sobre IA podría resultar más difícil que aquellas negociaciones nucleares, entre otras razones por las diferencias entre ambas tecnologías y por la facilidad con que los sistemas de inteligencia artificial pueden desarrollarse y distribuirse.
Diario LibrePeriódico líder de República Dominicana centrado en las noticias generales y el periodismo innovador.