Vorbemerkung der Fragesteller
Vorbemerkung der Fragesteller
Die gegenwärtige Kriegsführung ist zunehmend durch den Einsatz von Künstlicher Intelligenz (KI), Big Data und algorithmischer Entscheidungsunterstützung geprägt. Recherchen zum System „Lavender“, das von der israelischen Armee im Rahmen des Gaza-Krieges eingesetzt wurde, zeigen exemplarisch, wie solche Technologien zur automatisierten Zielidentifikation und Zielverfolgung genutzt werden und welche völkerrechtlichen und ethischen Probleme sich aus dem Einsatz solcher Systeme ergeben (Abraham, 2024, www.972ma g.com/lavender-ai-israeli-army-gaza/; Andersin, 2025, https://doi.org/10.1163/18781527-bja10119; Gray, 2024, https://doi.org/10.1007/978-3-031-8150 1-0_4).
Das System wurde unter anderem durch die Einheit 8200 des israelischen Militärgeheimdienstes entwickelt. Es verarbeitete umfangreiche personenbezogene Daten von bis zu 2,3 Millionen Bewohnerinnen und Bewohnern des Gazastreifens, darunter Kommunikations-, Bewegungs-, Verhaltens- und Social-Media-Daten. Auf dieser Grundlage berechnete das System einen algorithmischen „militant score“, anhand dessen Personen als potenzielle Zielpersonen eingestuft wurden. Diese Kategorisierung erfolgte automatisiert und konnte bereits auf indirekten oder statistischen Verhaltensmustern beruhen. Nach Recherchen von +972 Magazine und Associated Press wurden durch „Lavender“ mehr als 37 000 Personen als potenzielle Ziele klassifiziert. Dabei sollen außerdem bei niedrig eingestuften sogenannten Junior Targets bis zu 15 zivile Opfer und bei höher priorisierten „Senior Targets“ über 100 zivile Opfer als akzeptabel einkalkuliert worden sein.
Ergänzt wird das System durch weitere KI-gestützte Anwendungen wie „Where is Daddy?“, „The Gospel“ und „Fire Factory“, die unter anderem der Lokalisierung von Zielpersonen im Familienumfeld, der Gebäudeklassifikation und der algorithmischen Munitionsplanung dienen (Gray, 2024). Die Entscheidungsprozesse sind teilweise hochautomatisiert. Laut Medienberichten verbleiben menschlichen Operatorinnen und Operatoren häufig lediglich rund 20 Sekunden zur möglichen Intervention, was die Gefahr eines sogenannten „automation bias“ birgt – also der Tendenz, automatisierten Systemen übermäßig zu vertrauen und deren Entscheidungen ohne ausreichende kritische Prüfung zu übernehmen.
Bis Juli 2025 wurden laut UN-Angaben über 40 000 Menschen im Gazastreifen getötet – ein erheblicher Teil davon Zivilistinnen und Zivilisten. Nach Auffassung der Fragestellenden steht der Einsatz solcher Systeme in einem schwerwiegenden Spannungsverhältnis zu den völkerrechtlichen Grundprinzipien der Unterscheidung und Verhältnismäßigkeit.
Zudem liefern große Technologiekonzerne wie Microsoft, Google, Amazon und Palantir grundlegende Infrastruktur für diese Anwendungen – etwa im Rahmen von „Project Nimbus“, das Cloud-Dienste für israelische Sicherheitsbehörden bereitstellt (Business & Human Rights Resource Centre, 2023, www.business-humanrights.org/de/neuste-meldungen/israels-leading-arms-ma kers-required-to-use-google-amazon-cloud-services/). Auch in Deutschland beteiligen sich Forschungseinrichtungen und Rüstungsunternehmen an der Entwicklung KI-gestützter Systeme zur Entscheidungsunterstützung im Sicherheits- und Verteidigungsbereich.
Der EU AI Act (Verordnung [EU] 2024/1689) schließt laut Artikel 2 Absatz 3 den militärischen Bereich explizit vom Anwendungsbereich aus. Angesichts der dokumentierten Risiken solcher Technologien für die Einhaltung des humanitären Völkerrechts halten die Fragestellenden diese Regelung für unzureichend.
1Welche Kenntnisse hat die Bundesregierung über das KI-gestützte Zielidentifikationssystem „Lavender“, das nach Medienberichten von den israelischen Streitkräften im Gazastreifen zur Identifikation und Tötung mutmaßlicher Hamas-Mitglieder eingesetzt wurde?
1aWelche Informationen liegen der Bundesregierung über Zweck, Datenquellen und Entscheidungslogik dieses Systems vor?
1bWelche Kenntnisse bestehen über etwaige Kooperationen, Exportbeziehungen oder gemeinsame Entwicklungsprojekte mit Drittstaaten oder Unternehmen?
2Welche Kenntnisse hat die Bundesregierung über weitere KI-gestützte Systeme der israelischen Streitkräfte, insbesondere „Where is Daddy?“, „Fire Factory“ und „The Gospel“?
2aWelche Informationen liegen der Bundesregierung über Zweck, Datenbasis und Funktionsweise dieser Systeme vor?
2bWelche dieser Systeme kommen nach Kenntnis der Bundesregierung bei der Identifikation, Lokalisierung oder Priorisierung von Zielpersonen und Zielobjekten zum Einsatz?
2cLiegen der Bundesregierung Informationen über eine Beteiligung internationaler Technologieunternehmen oder militärischer Partnerstaaten an der Entwicklung oder Anwendung dieser Systeme vor, und wenn ja, welche?
3Verfügt die Bundesregierung über Informationen zur Datenbasis, Algorithmusentwicklung oder zur angegebenen Genauigkeitsrate dieser Systeme, und wenn ja, welche?
4Welche Kenntnisse hat die Bundesregierung über den Einsatz biometrischer Erkennungstechnologien, insbesondere Gesichtserkennung, durch das israelische Militär im Gazastreifen?
Die Fragen 1 bis 4 werden zusammen beantwortet.
Der Bundesregierung ist grundsätzlich bekannt, dass die israelischen Streitkräfte zur Erfassung und Vorprüfung möglicher Ziele im Rahmen bewaffneter Konflikte neben der händischen Analyse auch auf KI-gestützte Systeme zurückgreifen. Weitere Detailerkenntnisse im Sinne der Fragestellung liegen der Bundesregierung nicht vor.
5Welche deutschen Unternehmen oder deren Tochtergesellschaften sind nach Kenntnis der Bundesregierung direkt oder indirekt an digitalen Infrastrukturprojekten beteiligt, die im Rahmen von „Project Nimbus“ oder ähnlichen Programmen mit Bezug zu militärischen KI-Systemen stehen?
6Welche Kenntnisse hat die Bundesregierung über die Rolle von Microsoft Deutschland, Amazon Web Services Deutschland oder Palantir Technologies Germany bei der Bereitstellung von technischer Infrastruktur, Cloud-Diensten oder Analyseplattformen für israelische Sicherheitsbehörden oder Streitkräfte?
6aWelche Formen der Kooperation oder Lizenzierung sind der Bundesregierung bekannt?
Die Fragen 5 bis 6a werden zusammen beantwortet.
Die Bundesregierung verfügt mangels systematischer Erfassung solcher Daten über keine eigenen Kenntnisse über die Beteiligung oder Rolle deutscher Unternehmen an den Systemen im Sinne der Fragestellung.
Inwiefern wurden diese Aktivitäten durch staatliche Förderprogramme, Steuervergünstigungen oder Exportmaßnahmen unterstützt?
7In welchem Umfang wurden in den vergangenen fünf Jahren Exportgenehmigungen für KI-bezogene Hard- oder Softwareprodukte an Unternehmen erteilt, die in Verbindung mit den in den Fragen 5 und 6 genannten Projekten (Project Nimbus, Lavender, The Gospel u. a.) stehen, angesichts der Tatsache, dass der EU AI Act gemäß Artikel 2 Absatz 3 nicht auf militärische Systeme Anwendung findet?
7aWelche Genehmigungen wurden erteilt (bitte nach Produktart, Antragsteller, Zielland und Verwendungszweck aufschlüsseln)?
7bWurden diese Exporte als Rüstungsgüter oder Dual-Use-Güter klassifiziert?
7cInwiefern wurden menschenrechtliche oder völkerrechtliche Bedenken im Genehmigungsverfahren berücksichtigt?
Die Fragen 7 bis 7c werden zusammen beantwortet.
Eine automatisierte Auswertung der Fragestellung ist nicht möglich. Die Angaben sind Ergebnis einer gewissenhaften händischen Auswertung von Unterlagen und erhobenen Daten. Aufgrund dessen unterliegen die ermittelten Angaben mit Blick auf Vollständigkeit und Reproduzierbarkeit Vorbehalten.
Im fragegegenständlichen Zeitraum wurden keine entsprechenden Ausfuhrgenehmigungen erteilt.
8Existieren nach Kenntnis der Bundesregierung personelle, institutionelle oder projektbezogene Überschneidungen zwischen deutschen Forschungseinrichtungen (z. B. Bundeswehruniversitäten, Fraunhofer‑Institute) und der israelischen Militäreinheit 8200?
8aWelche Projekte oder Austauschprogramme bestehen in diesem Zusammenhang?
8bWelche Maßnahmen ergreift die Bundesregierung, um eine völkerrechtliche und ethische Bewertung solcher Kooperationen sicherzustellen?
Die Fragen 8 bis 8b werden gemeinsam beantwortet.
Es existieren nach Kenntnis der Bundesregierung keine Überschneidungen im Sinne der Fragestellung.
9Wie bewertet die Bundesregierung den Einsatz KI-gestützter Zielidentifikationssysteme im Lichte der völkerrechtlichen Prinzipien der Verhältnismäßigkeit und der Unterscheidung zwischen Zivilpersonen und Kombattanten?
9aHält die Bundesregierung die (teil)automatisierte Delegation letaler Zielentscheidungen an algorithmische Systeme für mit dem humanitären Völkerrecht vereinbar?
9bWelche Mindestanforderungen sieht die Bundesregierung für eine völkerrechtskonforme Nutzung solcher Systeme?
10Welche Position vertritt die Bundesregierung hinsichtlich der zulässigen Höhe ziviler Kollateralschäden bei Angriffen, an denen KI-basierte Entscheidungsunterstützungssysteme (AI-DSS) beteiligt sind?
10aTeilt die Bundesregierung die Einschätzung der Fragestellenden, dass die bewusste Inkaufnahme von bis zu 100 zivilen Opfern pro Angriff völkerrechtswidrig ist?
10bWelche Kriterien legt sie bei der Bewertung der Verhältnismäßigkeit in solchen Fällen zugrunde?
11Inwiefern hält die Bundesregierung eine rein algorithmische Definition der Kategorie „militant“ durch KI-Systeme ohne menschliche Verifikation für vereinbar mit den Prinzipien des humanitären Völkerrechts, und welche Risiken sieht sie in der Kategorisierung von Personen auf Basis von Metadaten oder Verhaltensmustern ohne individuelle Verifizierung?
12Welche Maßnahmen unterstützt oder ergreift die Bundesregierung zur internationalen Kontrolle und rechtlichen Bewertung KI-gestützter Kriegstechnologien?
12aExistieren nach Kenntnis der Bundesregierung Mechanismen auf UN- oder EU-Ebene zur Überprüfung solcher Systeme im Hinblick auf das humanitäre Völkerrecht?
12bSieht die Bundesregierung Bedarf für verbindliche Prüf- und Kontrollmechanismen im Forschungs- und Einsatzprozess solcher Systeme, und wie wird dieser umgesetzt?
Die Fragen 9 bis 12b werden zusammen beantwortet.
Der Einsatz von KI-Anwendungen im militärischen Bereich unterliegt dem geltenden Völkerrecht, insbesondere den Bestimmungen des humanitären Völkerrechts.
Die Bundesregierung engagiert sich für den verantwortungsvollen Umgang mit KI in militärischen Anwendungen während des gesamten Lebenszyklus der Systeme und bringt sich hierzu international aktiv ein. Die Wahrung menschlicher Kontrolle ist dabei aus Sicht der Bundesregierung von zentraler Bedeutung.
Die Bundesregierung hat als Ko-Sponsor die VN-Resolution 79/239 „Artificial intelligence in the military domain and its implications for international peace and security“ unterstützt, in der die Generalversammlung der Vereinten Nationen fordert, dass die Nutzung von KI im militärischen Bereich verantwortungsvoll erfolgen soll. Durch internationale Normen und Zusammenarbeit sollen Chancen für Sicherheit und Frieden genutzt sowie Risiken von Eskalation und Missbrauch verringert werden.
Nach Artikel 36 des Zusatzprotokolls I der Genfer Konvention haben sich Staaten, die dieses Zusatzprotokoll ratifiziert haben, verpflichtet, neue Waffen oder Mittel oder Methoden der Kriegsführung darauf zu prüfen, ob diese stets oder unter bestimmten Umständen durch eine auf die Vertragspartei anwendbar Regel des Völkerrechts verboten wäre. Alle EU-Mitgliedstaaten haben dieses Zusatzprotokoll ratifiziert. Auf VN- oder EU-Ebene besteht ein Mechanismus zur abschließenden „Überprüfung“ von Systemen mit Blick auf das humanitäre Völkerrecht hingegen nicht.
Im Übrigen verweist die Bundesregierung auf ihren Beitrag im Bericht A/80/78 des Generalsekretärs der Vereinten Nationen zu „Künstlicher Intelligenz im militärischen Bereich und ihre Auswirkungen auf internationalen Frieden und Sicherheit“, veröffentlicht am 5. Juni 2025 (abrufbar unter: https://docs.un.org/en/A/80/78).