"Anatomy of an AI Kill Chain": Militaries Rely on Mistake-Prone AI in Ukraine, Gaza & Iran

Militärs auf der ganzen Welt befinden sich in einem „KI-Wettrüsten“, sagt Heidy Khlaaf, leitende KI-Wissenschaftlerin am AI Now Institute, das gerade gemeinsam mit Airwars einen Bericht mit dem Titel „Anatomy of an AI Kill Chain“ veröffentlicht hat.

„Es handelt sich dabei um eine Reihe verschiedener KI-Algorithmen, die miteinander verkettet sind, wobei jeder seine eigenen Fallstricke und Schwachstellen hat“, erklärt sie. „Diese Systeme bauen aufeinander auf und beeinflussen sich gegenseitig, was leider letztendlich zu zivilen Opfern führt.“

Dies kann zu fehlerhaften Zielauswahlen führen, da „Menschen dazu neigen, Empfehlungen von KI-Algorithmen einfach zu akzeptieren, ohne die zugrunde liegenden Beweise zu überprüfen“, fügt Khlaaf hinzu.

Militaries across the world are in an "AI arms race," says Heidy Khlaaf, a chief AI scientist at the AI Now Institute, which just released a joint report with Airwars titled "Anatomy of an AI Kill Chain."

"What it is is a series of different types of AI algorithms that are chained together, each with their own pitfalls, each with their own flaws," she says. "And these systems build off of each other and feed into one another to, unfortunately, end up resulting in civilian casualties."

This can lead to faulty targeting because "humans are prone to just accepting recommendations of AI algorithms without corroborating that evidence," adds Khlaaf.