La mejor manera de contrarrestar la "IA mala" no es "sin IA", sino con "IA buena"

INTELIGENCIA ARTIFICIAL, HUMANOS, CONEXION, RED LATINA STL, RED LATINA RADIO, VIDAD, CAMBIO

2024-09-30

¿Podrían los terroristas u otros actores malintencionados usar la inteligencia artificial para crear una pandemia mortal?

The best way to
counter "bad AI" isn't "no AI" -- it's "good AI"<o:p></o:p>

Could terrorists
or other bad actors use artificial intelligence to create a deadly pandemic?

Científicos
de Harvard y del Instituto de Tecnología de Massachusetts realizaron un
experimento el año pasado para averiguarlo. Los investigadores pidieron a un
grupo de estudiantes, ninguno de los cuales tenía formación especializada en
ciencias biológicas, que usaran herramientas de IA, como ChatGPT-4 de OpenAI,
para desarrollar un plan sobre cómo iniciar una pandemia. En solo una hora, los
participantes aprendieron cómo obtener y sintetizar patógenos mortales como la
viruela de manera que eludan los sistemas de bioseguridad existentes.<o:p></o:p>

Scientists at
Harvard and the Massachusetts Institute of Technology conducted an experiment
to find out last year. Researchers asked a group of students, none of whom had
specialized training in the life sciences, to use AI tools, such as OpenAI's
ChatGPT-4, to develop a plan for how to start a pandemic. In just an hour,
participants learned how to procure and synthesize deadly pathogens like
smallpox in ways that evade existing biosecurity systems.<o:p></o:p>

La
IA aún no puede crear una crisis de seguridad nacional. Pero a medida que la
biotecnología se vuelve más avanzada, los responsables de políticas están
comprensiblemente preocupados de que sea cada vez más fácil crear un arma
biológica. Por lo tanto, están comenzando a tomar medidas para regular la
industria emergente de la IA.<o:p></o:p>

AI cannot yet
manufacture a national security crisis. But as biotechnology becomes more
advanced, policymakers are understandably worried that it'll be increasingly
easy to create a bioweapon. So they're starting to take action to regulate the
emerging AI industry.<o:p></o:p>

<img src="https://www.redlatinastl.com/Recursos/imagenes-subidas/1139710036-La%20mejor%20manera%20de%20contrarrestar%20la%20IA%20mala%203.jpg" style="width: 500px; float: left;" class="note-float-left">Sus
esfuerzos son bien intencionados. Pero es fundamental que los responsables de
políticas eviten centrarse demasiado estrechamente en los riesgos catastróficos
y, sin darse cuenta, obstaculicen la creación de herramientas de IA positivas
que necesitamos para enfrentar futuras crisis. Debemos intentar
encontrar un equilibrio.<o:p></o:p>

Their efforts are
well-intentioned. But it's critical that policymakers avoid focusing too
narrowly on catastrophic risk and inadvertently hamstring the creation of
positive AI tools that we need to tackle future crises. We should aim to strike a balance.<o:p></o:p>

Las
herramientas de IA tienen un enorme potencial positivo. Por ejemplo,
tecnologías de IA como AlphaFold y RFdiffusion ya han logrado grandes avances
en el diseño de proteínas novedosas que podrían usarse con fines médicos.<o:p></o:p>

The same sort of
technologies can also be used for evil, of course.<o:p></o:p>

Una
vez que se identifica un posible arma biológica, tal vez con la ayuda de la IA,
un actor malintencionado podría solicitar una cadena personalizada de ADN a un
proveedor comercial, quien fabricaría ADN sintético en un laboratorio y lo
enviaría por correo. Como han planteado expertos del Centro de Seguridad y
Tecnología Emergente de la Universidad de Georgetown, tal vez esa cadena de
material genético "codifique para una toxina o un gen que haga más
peligroso a un patógeno".<o:p></o:p>

Once a potential
bioweapon is identified -- maybe with the help of AI -- a malicious actor could
order a custom strand of DNA from a commercial provider, who would manufacture
synthetic DNA in a lab and return it via mail. As experts at the Center for Security
and Emerging Technology at Georgetown University have posited, perhaps that
strand of genetic material "codes for a toxin or a gene that makes a
pathogen more dangerous."<o:p></o:p>

Los
científicos frecuentemente solicitan ADN sintético para proyectos como la investigación
sobre el cáncer y enfermedades infecciosas. Pero no todos los proveedores de
ADN sintético examinan los pedidos o verifican a sus clientes.<o:p></o:p>

Cerrar
esas lagunas ayudará, pero no podemos regular todo el riesgo. Sería más
prudente fortalecer nuestras defensas invirtiendo en sistemas de detección
temprana habilitados por IA.<o:p></o:p>

Closing such
loopholes will help, but we can't regulate away all of the risk. It'd be wiser
to beef up our defenses by investing in AI-enabled early-detection systems.<o:p></o:p>

Hoy
en día, el programa de Vigilancia Genómica Basada en Viajeros de los Centros para
el Control y la Prevención de Enfermedades se asocia con aeropuertos de todo el
país para recopilar y analizar muestras de aguas residuales y hisopos nasales
para detectar patógenos a medida que ingresan a nuestras fronteras. Existen
otros sistemas para rastrear patógenos particulares dentro de ciudades y
comunidades. Pero es probable que los sistemas de detección existentes no estén
equipados para agentes novedosos diseñados con la ayuda de la IA.<o:p></o:p>

Today, the
Centers for Disease Control and Prevention's Traveler-based Genomic
Surveillance program partners with airports nationwide to gather and analyze
wastewater and nasal swab samples to catch pathogens as they enter our borders.
Other systems are in place for tracking particular pathogens within cities and
communities. But existing detection systems are likely not equipped for novel
agents designed with AI's help.<o:p></o:p>

La
comunidad de inteligencia de EE. UU. ya está invirtiendo en capacidades
impulsadas por IA para defenderse de amenazas de próxima generación. El
programa FELIX de IARPA, en asociación con empresas biotecnológicas privadas,
produjo una IA de primera clase que puede distinguir amenazas genéticamente
modificadas de aquellas que ocurren de forma natural, e identificar qué ha sido
cambiado y cómo.<o:p></o:p>

The U.S.
intelligence community is already investing in AI-powered capabilities to
defend against next-generation threats. IARPA’s FELIX program, in partnership
with private biotech firms, yielded first-in-class AI that can distinguish
genetically engineered threats from naturally-occurring ones, and identify what
has been changed and how.<o:p></o:p>

<img src="https://www.redlatinastl.com/Recursos/imagenes-subidas/1317847591-La%20mejor%20manera%20de%20contrarrestar%20la%20IA%20mala%202.jpg" style="width: 467.5px; float: right; height: 233.75px;" class="note-float-right">Apenas
hemos comenzado a aprovechar el potencial de la IA para detectar y protegernos
contra amenazas biológicas. En el caso de una enfermedad infecciosa nueva,
estos sistemas tienen la capacidad de determinar cómo y cuándo un patógeno ha
mutado. Eso puede permitir el desarrollo rápido de vacunas y tratamientos
específicamente adaptados a nuevas variantes. La IA también puede ayudar a
predecir cómo es probable que se propague un patógeno.<o:p></o:p>

We have barely
begun to tap the potential of AI to detect and protect against biological
threats. In the case of a novel infectious disease, these systems have the
power to determine how and when a pathogen has mutated. That can enable the
speedy development of vaccines and treatments specifically tailored to new
variants. AI can also help predict how a pathogen is likely to spread.<o:p></o:p>

Para
que estas tecnologías desempeñen su papel vital, los líderes en Washington y en
todo el mundo deben tomar medidas para fortalecer nuestras defensas con IA. La
mejor manera de contrarrestar la "IA mala" no es "sin IA",
sino con "IA buena".<o:p></o:p>

For these
technologies to play their vital role, leaders in Washington and around the
world must take steps to build up our AI defenses. The best way to counter
"bad AI" isn't "no AI" -- it's "good AI."<o:p></o:p>

Andrew
Makridis es el exdirector de operaciones de la CIA, el tercer puesto más alto
en la agencia. Antes de retirarse de la CIA en 2022, pasó casi cuatro décadas
trabajando en seguridad nacional.<o:p></o:p>

Andrew Makridis
is the former Chief Operating Officer of the CIA, the number-three position at
the agency. Prior to his retirement from the CIA in 2022, he spent nearly four
decades working in national security.<o:p></o:p>

10,400

Fans

752

Fans

1755

Fans

818

Fans

La mejor manera de contrarrestar la "IA mala" no es "sin IA", sino con "IA buena"

Follow Us

Newsletter