El director ejecutivo de OpenAI, Sam Altman, intervino ante el Consejo de Seguridad de las Naciones Unidas y advirtió sobre los riesgos que podría representar el desarrollo acelerado de la inteligencia artificial (IA).

Durante su participación, Altman señaló que uno de los principales desafíos es que estos sistemas evolucionen a una velocidad que impida a las personas comprender su funcionamiento o intervenir cuando sea necesario.

“Algunas de las cosas que han dicho las personas que trabajan en el desarrollo de la inteligencia artificial (IA) son tan distópicas que parecen sacadas de la trama de una mala película de ciencia ficción”, dijo.

Altman advierte que uno de los principales riesgos es que la humanidad pueda perder el control sobre el futuro a medida que la IA avance.

El peligro, explica, surge si esta tecnología evoluciona a una velocidad tal que las personas ya no puedan comprender lo que ocurre ni intervenir cuando sea necesario.

“Esto, evidentemente, sería terrible”, señala.

Ante este escenario, considera que la industria no debe asumir riesgos tecnológicos excesivos únicamente porque los beneficios potenciales sean enormes o porque exista la percepción de que el desarrollo de la IA es demasiado importante como para frenarlo.

Según Altman, competir por superar a otras empresas no constituye una razón suficiente para tomar decisiones precipitadas ni para dejar de lado las medidas de seguridad necesarias.

OpenAI pide mantener el control humano sobre la IA

El director ejecutivo de OpenAI insistió en que los desarrolladores deben comprender qué hacen los sistemas de IA y demostrar con pruebas sólidas que actuarán de acuerdo con las intenciones de las personas, incluso cuando alcancen niveles avanzados de inteligencia.

“No importa si alguien calcula el riesgo de una catástrofe en un 10 %, 1 %, 12 % o 0,1 %. Ninguno de esos niveles es remotamente aceptable”, señaló.

Altman también alertó sobre otro posible escenario: que los modelos de inteligencia artificial más avanzados queden concentrados en pocas manos, ya sea de empresas o gobiernos.

Según explicó, ninguna organización debería tener la capacidad de utilizar esta tecnología para imponer una visión particular al resto de la humanidad.

“Tenemos que rechazar esa lógica, incluso cuando resulte conveniente para cualquier actor”, agregó.

El representante de OpenAI planteó ante la ONU que el desarrollo de la inteligencia artificial debe avanzar acompañado de normas de seguridad que permitan aprovechar sus beneficios sin perder la supervisión humana.

VEA MÁS: Ante efectos de lluvias, declaran alertas en 12 departamentos y 2 municipios vulnerables