Redacción Red Latina
Scroll Down for English Version
El director ejecutivo y cofundador de Open AI, desarrolladora del programa de generación de texto ChatGPT, Sam Altman, pidió este martes al Congreso de Estados Unidos que regule el desarrollo y los usos de la inteligencia artificial (IA).
En una comparecencia ante un subcomité del Senado Altman hizo un listado de las aplicaciones beneficiosas de la tecnología, desde la medicina hasta la lucha contra la crisis climática, y confió en que la IA puede ser utilizada para el beneficio de la humanidad.
Pero matizó que es necesaria la intervención de los gobiernos del mundo para asegurar que estas herramientas se desarrollen de manera que protejan y respeten los derechos y las libertades de los ciudadanos.
“Creemos que los beneficios de las herramientas que hemos desarrollado hasta ahora superan ampliamente los riesgos”, defendió el empresario durante la audiencia.
Sin embargo, el cofundador de OpenAI mostró preocupación por los riesgos que la tecnología podría suponer para el mundo si su desarrollo no se supervisa.
“Mi mayor miedo es que causemos (...) un daño significativo al mundo”, dijo Altman al ser preguntado por sus principales preocupaciones sobre la inteligencia artificial.
Añadió que “si esta tecnología va mal, puede ir bastante mal”.
“Eso podría suceder de muchas maneras. Es por lo que iniciamos la compañía”, dijo, añadiendo que su empresa quiere trabajar con el Gobierno para evitar que ocurra.
El testimonio de Altman se produce en medio de la preocupación por parte de las autoridades estadounidenses por la posibilidad de que el rápido avance de las tecnologías de IA tenga efectos inesperados sobre la sociedad.
Los legisladores citaron riesgos como la pérdida de empleos o el uso de herramientas de creación de contenidos para generar información falsa por parte de actores extranjeros.
Para ilustrar sus preocupaciones, el senador Richard Blumenthal, presidente del subcomité de Privacidad, Tecnología y la Ley e impulsor de la audiencia, emitió una grabación realizada con inteligencia artificial que había sido escrita por ChatGPT, imitando el estilo y los principales focos de interés del congresista.
“Citando a ChatGPT, este no es necesariamente el futuro que queremos”, bromeó Blumenthal al inicio del evento.
Altman admitió que probablemente la IA afectará al mercado laboral, pero se mostró optimista en que a la larga, la tecnología generará mas empleos nuevos de los que destruirá.
“Somos tremendamente creativos”, confió el empresario.
Otra de las invitadas al evento, la directora de Privacidad y Confianza de IBM, Christina Montgomery, citó su propio puesto como ejemplo de un trabajo que no existía antes del desarrollo de la IA.
Altman también se mostró abierto a la sugerencia de Blumenthal de que el Gobierno desarrolle laboratorios independientes para comprobar la fiabilidad de los modelos de inteligencia artificial, y que les darían una nota similar a la calificación nutricional de los alimentos.
El responsable de OpenAI admitió que sus productos todavía cometen errores, pero que con el tiempo se volverán más y más fiables.
Otro de los senadores impulsores de la audiencia, el republicano Josh Hawley, aseguró que la inteligencia artificial es “una de las innovaciones más significativas de la historia”, pero que todavía no está claro si será más parecida a la invención de la imprenta o a la de la bomba atómica.
Los congresistas defendieron que si bien es cierto que se necesita regulación pública, las empresas de IA como OpenAI no tienen que esperar al Congreso para instaurar mecanismos que permitan controlar el desarrollo de la tecnología para mitigar los daños.
A comienzos de mes, el Gobierno estadounidense anunció que invertirá 140 millones de dólares para establecer siete nuevos institutos de investigación de la inteligencia artificial que impulsarán la innovación responsable y asegurarán que los avances en la tecnología sirven al bien común.
Los centros se unirán a los 18 institutos de investigación sobre IA que ya están en funcionamiento en el país
Además, la Casa Blanca anunció que las grandes empresas de IA han aceptado someterse a una evaluación pública de sus sistemas durante el evento de “hackers” DEF CON 31, que se celebrará en Las Vegas a comienzos de agosto.
Durante la convención, miles de participantes analizarán si estos sistemas están alineados con la Carta de Derechos de la IA que ha propuesto el Gobierno estadounidense, y que incluye principios como la privacidad de los datos de los usuarios o la protección contra los algoritmos discriminatorios.
English Version
The CEO and co-founder of Open AI, developer of the ChatGPT text generation program, Sam Altman, on Tuesday called on the United States Congress to regulate the development and uses of artificial intelligence (AI).
In an appearance before a Senate subcommittee, Altman listed the beneficial applications of technology, from medicine to combating the climate crisis, and was confident that AI could be used for the benefit of humanity.
But he qualified that the intervention of the world's governments is necessary to ensure that these tools are developed in a way that protects and respects the rights and freedoms of citizens.
"We believe that the benefits of the tools we have developed so far far outweigh the risks," the businessman defended during the hearing.
However, the OpenAI co-founder expressed concern about the risks the technology could pose to the world if its development is not monitored.
"My biggest fear is that we will cause (...) significant damage to the world," Altman said when asked about his main concerns about artificial intelligence.
He added that "if this technology goes bad, it can go pretty bad."
“That could happen in many ways. It's why we started the company,” he said, adding that his company wants to work with the government to prevent that from happening.
Altman's testimony comes amid concern on the part of US authorities that the rapid advancement of AI technologies could have unintended effects on society.
Lawmakers cited risks such as job losses or the use of content creation tools to generate false information by foreign actors.
To illustrate his concerns, Senator Richard Blumenthal, chairman of the Privacy, Technology, and the Law subcommittee and audience advocate, broadcast an AI-powered recording that had been written by ChatGPT, mimicking the style and focus of the chat. congressman.
“Quoting ChatGPT, this is not necessarily the future we want,” Blumenthal joked at the start of the event.
Altman conceded that AI was likely to affect the job market, but he was optimistic that in the long run, the technology would create more new jobs than it would destroy.
"We are tremendously creative," confided the businessman.
Another guest at the event, IBM's Director of Privacy and Trust, Christina Montgomery, cited her own position as an example of a job that didn't exist before the development of AI.
Altman was also open to Blumenthal's suggestion that the government develop independent laboratories to test the reliability of the artificial intelligence models, and that they would give them a similar grade to the nutritional rating of food.
The OpenAI manager admitted that his products are still buggy, but over time they will become more and more reliable.
Another of the senators who promoted the audience, Republican Josh Hawley, assured that artificial intelligence is "one of the most significant innovations in history", but that it is still not clear if it will be more similar to the invention of the printing press or to the of the atomic bomb.
Congressmen argued that while it is true that public regulation is needed, AI companies like OpenAI do not have to wait for Congress to put in place mechanisms to control technology development to mitigate harm.
Earlier this month, the US government announced that it will invest $140 million to establish seven new artificial intelligence research institutes that will drive responsible innovation and ensure that advances in technology serve the common good.
The centers will join the 18 AI research institutes already operating in the country
In addition, the White House announced that major AI companies have agreed to undergo a public evaluation of their systems during the DEF CON 31 hacker event, to be held in Las Vegas in early August.
During the convention, thousands of participants will analyze whether these systems are aligned with the AI Bill of Rights proposed by the US government, which includes principles such as the privacy of user data or protection against discriminatory algorithms.
Fans