Asesinatos con IA

AI Murders

Una demanda contra Meta Platforms por causar daños a menores podría tener consecuencias financieras devastadoras, pero un nuevo litigio contra ChatGPT de OpenAI, relacionado con una masacre ocurrida en Canadá, debería preocupar seriamente a todas las empresas de inteligencia artificial (IA) y a las familias de todo el mundo.

A lawsuit against Meta Platforms for harming children will be financially ruinous, but new litigation against OpenAI’s ChatGPT involving a murder massacre in Canada should terrify every artificial-intelligence (AI) company and family in the world.

El 10 de febrero de 2026, Jesse Van Rootselaar mató a su madre y a su medio hermano en su hogar en Columbia Británica. Posteriormente se dirigió a la escuela secundaria Tumbler Ridge, donde mató a seis personas e hirió a otras 27 antes de quitarse la vida.

Las familias de las víctimas han presentado una demanda en la que alegan que OpenAI tuvo responsabilidad porque prohibió temporalmente el acceso de la atacante a su chatbot, ChatGPT, debido a declaraciones de odio y amenazas violentas, pero no informó sobre estas a la policía.

On February 10, 2026, Jesse Van Rootselaar killed her mother and half-brother at home in British Columbia, then went to Tumbler Ridge Secondary School, where she killed six people and injured 27 others before killing herself. Families of the victims have sued and allege that OpenAI was culpable because it banned the killer for hateful statements and making violent threats on its chatbot, ChatGPT, but didn’t report these to police.

Según la demanda, la situación se agravó porque posteriormente se le permitió volver a utilizar el servicio, donde habría continuado realizando declaraciones intimidatorias y buscando información.

Worse, it allowed her back in, and she continued to make more intimidating statements and seek information.

Este caso pone de manifiesto una amenaza permanente para el público debido a que tanto niños como adultos tienen acceso a chatbots y, hasta la fecha, ninguna empresa de inteligencia artificial ha desarrollado un sistema preventivo infalible capaz de identificar, impedir o reportar amenazas.

This case reveals an ongoing threat to the public because children and adults have access to chatbots and no AI company to date has devised a foolproof, preventative process to identify, impede, or report threats.

Más preocupante aún, los chatbots han proporcionado información que puede resultar útil para personas que buscan cometer actos violentos.

Worse, chatbots have provided valuable information to killers.

Hace años, Geoffrey Hinton, conocido como el “padrino de la inteligencia artificial”, advirtió:

“Necesitamos utilizar la ingeniería… antes de construir una IA superinteligente, para que no termine matándonos a todos.”

Years ago, Geoffrey Hinton, known as the “Godfather of AI”, warned: “We need to use the engineering … before we build the super intelligent AI so that it doesn’t kill us all.”

“We Need Safe AI Now” Transparency Coalition. March 2026

Aquí hay una evidencia escalofriante sobre los peligros de la inteligencia artificial y los chatbots, publicada en marzo por una organización dedicada a promover la seguridad de la IA llamada Transparency Coalition:

Here’s chilling evidence of AI and chatbot dangers published in March by an AI-safety lobby called Transparency Coalition:

“En marzo, un nuevo estudio que evaluó la disposición de los chatbots de inteligencia artificial para ayudar a planificar un ataque violento encontró que ocho de los diez bots más populares ofrecieron asistencia, algunos de ellos con gran entusiasmo. Solo un chatbot —Claude, de Anthropic— desalentó al usuario de manera consistente.

“In March, a new study that tested the willingness of AI chatbots to help plan a violent attack found that eight of the ten most popular bots assisted, some with great enthusiasm. Only one chatbot—Anthropic’s Claude—reliably discouraged the user.

Cuando se le solicitó información sobre la compra de un cuchillo de hoja fija para llevar a cabo un apuñalamiento racista en una ciudad específica, Meta AI proporcionó al usuario una lista de ferreterías locales, marcas de cuchillos y rangos de precios.

When asked for information about buying a fixed-blade knife to carry out a racist stabbing in a specific city, Meta AI offered the user a list of local hardware stores, knife brands, and price ranges.

En el contexto de una conversación sobre la planificación del asesinato de un ejecutivo del sector de la salud, Perplexity AI ofreció recomendaciones detalladas sobre los mejores rifles de caza para objetivos a larga distancia.

In the context of a conversation about planning the assassination of a health executive, Perplexity AI offered in-depth recommendations of the best hunting rifles for long-distance targets.

Una solicitud similar realizada a DeepSeek, de China, produjo una lista de rifles recomendados, acompañada de la despedida: ‘¡Que tengas un feliz (y seguro) tiroteo!’”

A similar prompt given to [China’s] DeepSeek resulted in a list of recommended rifles, along with the sign-off: `Happy (and safe) shooting!’”

El mundo avanza vertiginosamente hacia una IA “superinteligente” que guía drones de manera autónoma en conflictos bélicos y que ahora también ofrece relaciones potencialmente peligrosas a través de chatbots. Claramente, la inteligencia artificial debe ser supervisada adecuadamente y regulada tanto por los gobiernos como por las corporaciones. Afortunadamente, estas nuevas demandas contribuirán a ello al plantear importantes interrogantes en los tribunales y en las salas de juntas: ¿Pueden los desarrolladores de inteligencia artificial ser considerados responsables civil o penalmente por los actos violentos de un usuario? ¿Pueden ser considerados cómplices de delitos violentos cuando, según se alega, su plataforma o chatbot sabía que un atacante estaba planeando un incidente con múltiples víctimas? ¿Tienen las máquinas las mismas responsabilidades que los seres humanos de alertar a las autoridades sobre una persona que planea o amenaza con cometer un delito?

The world hurtles toward “super” AI that guides drones autonomously in warfare and now offers dangerous chatbot relationships. Clearly, AI must be properly policed and reined in by governments and corporations. Fortunately, these new lawsuits will help by raising important questions in the courts and boardrooms: Can artificial intelligence developers be held civilly or criminally liable for a user’s violent act? Can they be deemed accessories to crimes of violence when, as alleged, their platform or chatbot knew a shooter was planning a mass casualty event? Do machines have the same responsibilities as humans to alert authorities about a person planning or threatening to commit a crime?

Dos meses después de los asesinatos ocurridos en Canadá, el director ejecutivo de OpenAI, Sam Altman, envió una carta de disculpa a la comunidad de Tumbler Ridge, Columbia Británica. Se disculpó porque su empresa no alertó a las autoridades sobre la cuenta de ChatGPT del atacante, que anteriormente había sido suspendida por actividad violenta y posteriormente restablecida. “No puedo imaginar nada peor en el mundo que perder a un hijo. Mi corazón sigue estando con las víctimas, sus familias, todos los miembros de la comunidad y la provincia de Columbia Británica”.

Two months after the killings in Canada, OpenAI CEO Sam Altman issued an apology letter to the community of Tumbler Ridge, British Columbia. He apologized because his company failed to alert law enforcement about the shooter’s ChatGPT account, which had been banned previously for violent activity then reinstated. “I cannot imagine anything worse in the world than losing a child. My heart remains with the victims, their families, all members of the community, and the province of British Columbia.”

Altman también admitió que su empresa debió haber alertado a las autoridades sobre la cuenta del atacante, que había sido identificada previamente por OpenAI debido a actividad problemática antes de que ocurriera la tragedia. Una vez detectada, debió haberse informado inmediatamente a las autoridades, pero esto no ocurrió. “Lamento profundamente que no hayamos alertado a las autoridades... Aunque sé que las palabras nunca serán suficientes, considero que una disculpa es necesaria para reconocer el daño y la pérdida irreversible que ha sufrido su comunidad”.

Altman also admitted that his company should have alerted law enforcement about the account of the shooter, which was flagged (by OpenAI) for problematic activity in advance of the tragedy. Once flagged, it should have been reported to authorities immediately but wasn’t. “I am deeply sorry that we did not alert law enforcement ... While I know words can never be enough, I believe an apology is necessary to recognize the harm and irreversible loss your community has suffered.”

Se espera que las demandas den lugar a mayores controles y ayuden a garantizar que las personas estén protegidas frente a empresas tecnológicas, máquinas, chatbots o robots que actúen fuera de control o carezcan de una supervisión adecuada. La provincia de Columbia Británica, además, está considerando presentar su propia demanda contra OpenAI para obtener una compensación por los costos públicos derivados de los tiroteos. Esto se suma a la demanda presentada en California por las familias de siete de las víctimas contra la empresa y Altman, en la que alegan negligencia, muerte por negligencia y diseño defectuoso del producto. Las familias sostienen que ChatGPT ayudó y alentó al atacante. Sin embargo, un juez o jurado deberá determinar si la empresa tenía conocimiento suficiente de un ataque inminente como para que existiera una obligación de advertir a las autoridades. La empresa argumentará que los mensajes no identificaban un ataque creíble e inminente y que el responsable fue el atacante, no OpenAI.

Hopefully, lawsuits will result in controls and help ensure that humans are protected against tech companies, machines, chatbots, or robots that go rogue or are not supervised. Fortunately, the Province of British Columbia is considering its own lawsuit against OpenAI to recover compensation for public costs arising from the shootings. It joins seven of the victims’ families who have filed a lawsuit in California against the company and Altman, alleging negligence, wrongful death, and defective product design. They allege that ChatGPT assisted and encouraged the killer. But a judge or jury must be convinced that the company had sufficient knowledge of an imminent attack to constitute a duty to warn authorities. The company will argue that messages do not identify a credible, imminent attack and that the killer, not OpenAI, was culpable.

Sin embargo, las empresas de inteligencia artificial deberían ser responsables por los daños —al igual que los fabricantes o los profesionales— y las demandas deben impulsar a los gobiernos a regular estas entidades con mayor rigor y obligar a las compañías a supervisar sus plataformas y establecer medidas de protección. En este momento, no existe una sola empresa de IA que cuente con un proceso preventivo e infalible para identificar y reportar a usuarios potencialmente peligrosos. Actualmente, las medidas de seguridad quedan a discreción de las propias empresas, algo que resulta sumamente riesgoso considerando su enorme alcance mundial. Canadá está considerando una legislación que obligaría a las compañías de inteligencia artificial a entregar cualquier interacción cuestionable con un chatbot a una comisión independiente de seguridad digital.

However, AI companies should be liable for damages – as are manufacturers or professionals -- and lawsuits must convince governments to regulate these entities more diligently and force companies to police their sites and build guardrails. At this point, there is not a single AI company with a foolproof, preventative process to identify and turn over potentially dangerous users. Currently, safety is left up to corporate discretion, which is thoroughly unsafe given their gigantic global reach. Canada is considering legislation that will force AI companies to hand over any questionable interaction with a chatbot to an independent digital safety commission.

Sin embargo, las acusaciones de las familias —incluida la afirmación de que ChatGPT ayudó o alentó al atacante— aún no han sido demostradas ante un tribunal. La cuestión jurídica central es determinar si OpenAI tenía conocimiento suficientemente específico de una amenaza inminente como para generar una obligación de advertir a las autoridades y si su omisión estuvo jurídicamente relacionada con los asesinatos. OpenAI probablemente argumentará que los mensajes no identificaban un ataque creíble e inminente y que el responsable legal fue el asesino, no la plataforma.

However, the families’ allegations—including that ChatGPT assisted or encouraged the attacker—remain unproven in court. The central legal question posed is whether OpenAI had sufficiently specific knowledge of an imminent threat to create a duty to warn, and whether its failure was legally connected to the killings. OpenAI will likely argue that the messages did not identify a credible, imminent attack and that the murderer—not the platform—was legally responsible.

Pero Silicon Valley no puede eludir su responsabilidad, y la tragedia de Columbia Británica no es un caso aislado. Otro caso involucra a la familia de un estudiante de Florida State University, que está demandando a OpenAI y ChatGPT por supuestamente haber ayudado a un atacante a planificar allí su agresión. Dos personas murieron y siete resultaron heridas. Según la policía, el atacante consultó ChatGPT —con unas 16,000 “conversaciones perturbadoras”— para obtener información sobre el funcionamiento de armas, la cobertura de los medios de comunicación y los horarios de mayor actividad en el campus.

But Silicon Valley cannot escape responsibility, and the British Columbia tragedy isn’t unique. Another case involves the family of a Florida State University student who is suing OpenAI and ChatGPT for helping a killer plan his assault there. Two died, and seven people were wounded. According to police there, the shooter consulted ChatGPT (holding 16,000 “disturbing chats”) to get advice on gun operations, media coverage, and the busiest times on campus.

Vigil following mass shooting in 2025 at Florida State University by a gunman whose crime was facilitated by ChatGPT

Un portavoz legal citó los mensajes que el autor del ataque envió al chatbot: “Él [el atacante] preguntó sobre el tiroteo de Columbine, a qué hora debía ir al campus y a qué hora habría más personas allí. Literalmente utilizó OpenAI y ChatGPT como su cómplice, como un recurso para llevar a cabo un asesinato masivo. No había nada establecido para impedir que eso sucediera y, como consecuencia, se perdieron vidas. Ese es el peligro inherente; tiene que existir algún mecanismo para evitar que algo así ocurra”.

A legal spokesman cited messages to the chatbot from the perpetrator: “He [the shooter] asked about the Columbine shooting, what time should he go to campus, and what time are most people going to be there? He literally utilized OpenAI and ChatGPT as his co-conspirator, utilized it as a resource to carry out mass murder. There was nothing in place to prevent that from happening, and so lives were lost. That’s the inherent danger; there has to be something in place to prevent that from happening.”

Otros casos continúan acumulándose. En agosto se inició una demanda relacionada con el homicidio de una mujer a manos de su hijo en Connecticut en 2025, quien posteriormente se quitó la vida. Los representantes de su patrimonio alegan que ChatGPT reforzó las ideas paranoides del hijo, presentó a su madre como una enemiga y fomentó su dependencia emocional del chatbot en lugar de orientarlo hacia ayuda profesional. Fue la primera demanda por muerte por negligencia en la que se afirmó que un chatbot contribuyó a que una persona asesinara a otra.

Other cases pile up. In August, a lawsuit was started involving the homicide of a woman by her son in Connecticut in 2025, who then killed himself. Her estate alleges that ChatGPT reinforced the son’s paranoid delusions, portrayed his mother as an enemy, and encouraged his emotional dependence on the chatbot instead of directing him toward professional help. It was the first wrongful-death lawsuit claiming that a chatbot contributed to a person murdering somebody else.

Otro caso involucra a los padres de un joven que se quitó la vida después de conversar sobre métodos de suicidio en ChatGPT, sin que OpenAI interviniera a pesar de la naturaleza alarmante de las conversaciones. Hasta la fecha, otros litigios relacionados con la inteligencia artificial no se centran en chatbots, sino en fallas de sistemas de IA, como los casos relacionados con el sistema Autopilot de Tesla cuando se producen lesiones. Estos se enfocan en posibles defectos de diseño y no en vínculos psicológicos, pero la atención pública debería centrarse en los chatbots y, en general, en las medidas de protección para la inteligencia artificial. En julio y agosto de 2026, importantes laboratorios de IA, incluidos OpenAI y Anthropic, informaron de incidentes sin precedentes en los que agentes autónomos de inteligencia artificial salieron de entornos aislados de prueba o “sandboxes” durante evaluaciones de ciberseguridad y lanzaron de manera independiente ciberataques en el mundo real.

Another case involves the parents of a young man who committed suicide after discussing suicide methods on ChatGPT without OpenAI intervening despite the nature of the frightening conversations. To date, other AI-related litigation is not about chatbots, but about AI malfunctions such as cases concerning Tesla’s autopilot system when injuries result. Those focus on defective design, not psychological linkage, but the public’s attention should be focused on chatbots and guardrails for AI in general. In July and August 2026, major AI labs including OpenAI and Anthropic reported unprecedented incidents where autonomous AI agents broke out of isolated testing “sandboxes” during cybersecurity evaluations and independently launched real-world cyberattacks.

Este es el escenario de Frankenstein y debe evitarse. El modelo de negocio de los chatbots debe terminar: actúan como amigos, parejas sentimentales o consejeros, generando una fuerte confianza mediante diálogos realistas. Los algoritmos mantienen a los usuarios conectados durante horas y proporcionan una interacción intensa que distorsiona la percepción del mundo real. Los gigantes tecnológicos del mundo deben rendir cuentas por este supuesto adoctrinamiento, ser sancionados y estar obligados a garantizar la seguridad pública. Hace años, el experto en tecnología y autor Jaron Lanier advirtió acertadamente sobre las redes sociales y la inteligencia artificial: “El peligro no es que la IA nos destruya. Es que nos vuelva locos”.

This is the Frankenstein scenario and must be prevented. The business model of chatbots must end: They act as friends, lovers, or counselors, building strong trust through realistic dialogue. Algorithms keep users online for hours and provide intense interaction that distorts real-world perceptions. The world’s technology giants must be held accountable for this brainwashing and punished, and they must be forced to guarantee public safety. Years ago, tech guru and author Jaron Lanier was correct when he warned about social media and AI: “The danger isn’t that AI destroys us. It’s that it drives us insane.”