Autonomous Lethal Drones / Autonóm, halálos drónok
Testing the Law of Armed Conflict? / A fegyveres konfliktusok jogának határmezsgyéjén? (A. Sari)
By Aurel Sari (Professor of Public International Law, University of Exeter)
< Magyar változat elérhető alább / Scroll down for the Hungarian version >
In this post, I would like to add a few thoughts to Professor Péter Marton’s earlier post on an incident reportedly involving the use of lethal autonomous weapons by Ukraine in 2024.
The incident
According to a report published in the New Scientist on 10 June 2026, the Ukrainian armed forces conducted a one-off weapons test involving the use of fully autonomous drones to target Russian soldiers sometime in mid-2024. The disclosure came from Alexander Kokhanovskyy, the CEO of a Ukrainian drone manufacturer, who spoke at a press event hosted by the Ukrainian Embassy in London. The test apparently involved ten quadcopter drones programmed to fly autonomously towards the front line in the Bakhmut area, before entering a phase during which an onboard AI model searched for, identified and engaged any targets it encountered within a defined zone.
The New Scientist report rests entirely on the account of a single source and no independent verification of his claims has been published. In the absence of corroboration, we should take the report with a pinch of salt. Indeed, certain elements of the story raise unanswered questions. The reporting suggests that, apart from after-action damage assessment upon gaining access to the impacted area, the test was unobserved: the drones operated without any data link, with no video feed and with no human presence in the target area. It seems counterintuitive to conduct any kind of weapons test without collecting data about the performance of the system in question. Running such a test in actual combat conditions against enemy combatants also carries an unnecessary level of legal risk. If the objective was to demonstrate the navigational and targeting capabilities of the AI system, it is not obvious why that required the deployment of a lethal payload. Presumably, equipping the drones with a non-lethal payload could have demonstrated these capabilities just as well without incurring those risks.
Legal questions
In any event, the incident does raise certain legal questions under the law of armed conflict that have so far received only limited attention. For the sake of this analysis, let us take the facts as reported by the New Scientist at face value.
Since the weapons test involved an attack, the incident engages the targeting rules of the law of armed conflict. These include the general principle of distinction, reflected in more specific rules, such as the prohibition of indiscriminate attacks and the various precautionary obligations applicable in attack.
Most of these rules are context dependent. Take, for example, the prohibition to employ weapons that cannot be directed against a specific military objective. The rule demands that any weapon used in an attack must have at least a reasonable probability of delivering its effects on the intended target, in other words that it must display a minimum of accuracy and precision (see UK LOAC Manual, § 5.23.3). Whether or not a particular weapon meets this requirement depends not only on its technical capabilities, but also on the conditions in which it is deployed. A particular missile may be very accurate in daylight, but its performance may suffer at night or in adverse weather conditions. The same considerations apply to the drones reportedly tested by Ukraine. Whether they are capable of discriminate use depends not solely on their technical capabilities, but also on the conditions in which they are deployed.
As Professor Marton notes, large stretches of the line of contact between Ukrainian and Russian forces are practically devoid of any civilians. Whether these conditions pertained at the time and location where the drones were reportedly tested is not clear from the report. However, if they did, then compliance with some of the applicable law of armed conflict rules should be relatively straightforward. If operators were able to reassure themselves before activating the drones that civilians were absent in the area of operations, then there would have been no need for the drones themselves to be capable of distinguishing combatants, who are lawful targets, from civilians, who are normally immune from attack. That distinction would have been performed by the operators. If so, the drones were in fact operating with lower levels of autonomy than the reporting may suggest. Similarly, if the operators did not anticipate civilian persons to be present in the area of operations, the proportionality rule would not have been engaged, at least as far as incidental harm to persons is concerned.
Three challenges
Nevertheless, at least three legal difficulties do arise.
The first concerns the duty of target verification, which requires those who plan or decide upon an attack to do everything feasible to verify that the objectives to be attacked are neither civilians nor civilian objects and are not subject to special protection, but are military objectives liable to attack.
Since the drones were tasked to find and engage the targets to be attacked autonomously, the actual targets to be attacked were not selected by their human operators at the time of activating the drones. This means that the verification of the targets was not complete at that point, given that the decision to select and then engage an actual target was still pending. The drone therefore had to be capable of discharging the duty of target verification autonomously by determining that the actual target it selected for engagement did not benefit from special protections, for instance because they were hors de combat. If the drones lacked that capability, the duty of target verification would not have been discharged, in violation of the law of armed conflict.
Second, it is prohibited to order that there shall be no survivors, to threaten an adversary therewith or to conduct hostilities on this basis. No concerns arise in relation to this rule if the drones were capable of autonomously recognizing a clearly expressed intention to surrender and to refrain from attacking combatants who have expressed such an intention. However, if the drones lacked that capability, the question arises whether their use amounted to the conduct of hostilities on the basis that there shall be no survivors. If so, the deployment of the drones would have been a violation of the law of armed conflict, even if no attacks were carried out against enemy combatants seeking to surrender.
Finally, it is reasonable to anticipate that at least some of the attacks carried out by the drones against enemy combatants are likely to cause incidental harm to civilian objects. Since the decision to select and engage the actual targets was delegated to the machines, the duty to refrain from deciding to launch an attack which may be expected to cause incidental damage to civilian objects which would be excessive in relation to the concrete and direct military advantage anticipated was still applicable at that point. This means that the drones had to be capable of undertaking a proportionality assessment to avoid launching disproportionate attacks or, at a minimum, to identify the risk of causing incidental civilian harm and to refrain from carrying out the attack, so as to err on the side of caution.
Some lessons
Regardless of whether the New Scientist story is factually accurate or not, the report puts the spotlight on several legal challenges that arise in the use of lethal autonomous weapon systems. Given the pace and direction of technological development and military procurement, it is likely that such systems will become available before too long. It is vital to think through these questions before that time arrives.
Magyar nyelvű változatban:
Ebben a bejegyzésben néhány gondolatot szeretnék hozzáfűzni Marton Péter korábbi bejegyzéséhez, amely egy olyan hírre reflektált, miszerint Ukrajna 2024-ben halálos autonóm fegyvereket vetett be.
Az eset
A New Scientist 2026. június 10-én közzétett cikke szerint az ukrán fegyveres erők 2024 közepén egyszeri fegyverkísérletet hajtottak végre, amelynek során teljesen autonóm drónokat vetettek be orosz katonák ellen. Az információt Alekszander Kohanovszkij, egy ukrán dróngyártó vállalat vezérigazgatója hozta nyilvánosságra, aki az ukrán nagykövetség által Londonban szervezett sajtótájékoztatón szólalt fel. A tesztben állítólag tíz négyrotoros drón vett részt, amelyeket úgy programoztak, hogy autonóm módon repüljenek a frontövezet fölé Bahmut környékén, majd olyan működési fázisba lépjenek, melynek során a fedélzeti mesterséges intelligencia modellje felkutatja, azonosítja és megtámadja az előre meghatározott zónán belül adódó célpontokat.
A New Scientist cikke kizárólag egyetlen forrás beszámolóján alapul, és állításait független források nem igazolták. Mivel ilyen értelemben hiányzik az alátámasztás, a cikket fenntartásokkal kell kezelni. A beszámoló bizonyos elemei megválaszolatlan kérdéseket vetnek fel. A cikkből az világlik ki, hogy az állítólagos tesztet, a károknak az érintett területhez való utolólagos hozzáférés nyomán történt felmérését leszámítva, megfigyelés nélkül hajtották végre: a drónok adatkapcsolat és videóátvitel nélkül működtek, és a célterületen nem tartózkodott saját ember. Az, hogy bármilyen fegyverkísérletet anélkül végezzenek el, hogy adatokat gyűjtenének a szóban forgó rendszer teljesítményéről, a józan megfontolásokkal ellentétesnek tűnik. Egy ilyen teszt elvégzése valós harci körülmények között, ellenséges katonák ellen szükségtelen mértékű jogi kockázatot teremt. Ha a cél az AI-rendszer navigációs és célzási képességeinek bemutatása volt, nem egyértelmű, miért volt ehhez szükség halálos fegyverzet bevetésére is. Feltehetően a drónok nem halálos fegyverzettel való felszerelése ugyanolyan jól bizonyíthatta volna ezeket a képességeket anélkül, hogy ilyen kockázatokat vállaltak volna.
Jogi kérdések
Az eset mindenképpen felvet bizonyos jogi kérdéseket a fegyveres konfliktusok jogával összefüggésben, amelyek eddig csak korlátozott figyelmet kaptak. Elemzésünk céljából fogadjuk most el a New Scientist által közölt tényeket hitelesnek.
Mivel a fegyverkísérlet támadással járt együtt, az esetre a fegyveres konfliktusok jogának célpont-kijelölési szabályai vonatkoznak. Ezek közé tartozik a megkülönböztetés általános elve, amely konkrétabb szabályokban is megnyilvánul, például a megkülönböztetés nélküli támadások tilalmában és a támadás során alkalmazandó különféle óvintézkedéseket illető kötelezettségben.
E szabályok többsége kontextusfüggő. Vegyük például azt a tilalmat, amely szerint nem alkalmazhatók olyan fegyverek, amelyek nem irányíthatók egy meghatározott katonai célpont ellen. A szabály előírja, hogy a támadás során használt bármely fegyvernek legalább ésszerű valószínűséggel képesnek kell lennie arra, hogy a kívánt célpontra gyakoroljon hatást, más szóval tehát minimális pontosságot és precizitást kell tudni felmutatni ilyen fegyver bevetésekor (lásd az Egyesült Királyság fegyveres konfliktusok jogáról szóló katonai szabályzatát: 5.23.3. §). Az, hogy egy adott fegyver megfelel-e ennek a követelménynek, nem csupán műszaki paraméterektől függ, hanem attól is, hogy milyen körülmények között vetik be. Egy adott fegyver nappal nagyon pontos lehet, ám teljesítménye éjszaka vagy kedvezőtlen időjárási körülmények között jelentősen romolhat. Ugyanezek a szempontok vonatkoznak azokra a drónokra is, amelyeket állítólag Ukrajna tesztelt: az, hogy képesek-e megkülönböztető használatra, nem kizárólag a műszaki képességeiktől függ, hanem attól is, hogy milyen körülmények között vetik be őket.
Ahogy Marton Péter megjegyzi, az ukrán és az orosz erők közötti harcérintkezési övezet nagy szakaszain gyakorlatilag nincsenek civilek. A jelentésből nem derül ki egyértelműen, hogy ezek a körülmények álltak-e fenn abban az időpontban és azon a helyen, ahol a drónokat állítólag tesztelték. Ha azonban így volt, akkor a fegyveres konfliktusokra vonatkozó jogszabályok egyes szabályainak betartása viszonylag egyszerű lenne. Ha az operátorok a drónok aktiválása előtt meggyőződhettek arról, hogy a műveleti területen nincsenek civilek, akkor nem lett volna szükség arra, hogy maguk a drónok képesek legyenek megkülönböztetni a törvényes célpontoknak minősülő kombattánsokat a civilektől, akik általánosságban védelmet élveznek a támadásokkal szemben. Ezt a megkülönböztetést az operátoroknak kellett volna elvégezniük. Ha történetesen így volt, akkor a drónok valójában alacsonyabb szintű autonómiával működtek, mint amiről az itt tárgyalt híradás szólt. Ha pedig az operátorok nem is számíthattak civilek jelenlétére a műveleti területen, akkor az arányossági szabály alkalmazása nem jelenthetett kihívást, legalábbis ami a személyeknek okozott járulékos ártalom lehetőségét illeti.
Három kihívás
A fentiek ellenére legalább három fontos jogi probléma így is felvetődik.
Az első a célpontok ellenőrzésének kötelezettségét érinti, amely előírja, hogy a támadást tervezőknek és az arról a végső döntést meghozóknak minden tőlük telhetőt meg kell tenniük annak ellenőrzése érdekében, hogy a megtámadandó célpontok ne legyenek sem civilek, sem polgári objektumok, és ne élvezzenek különleges védelmet, hanem ténylegesen támadható katonai célpontok legyenek.
Ha a drónok feladata az volt, hogy önállóan keressék meg és támadják meg a célpontokat, ez azt jelenti, hogy azokat nem az emberi kezelők választották ki a drónok aktiválásának pillanatában. Vagyis a célpontok ellenőrzése a drónok elindításának pillanatban még nem volt teljes; a tényleges célpontok kiválasztására és megtámadására vonatkozó döntés függőben volt. A drónoknak tehát képesnek kellett lenniük arra, hogy önállóan teljesítsék a célpontok ellenőrzésének kötelezettségét azáltal, hogy megállapítják, hogy a támadásra kiválasztott célpont nem áll-e különleges védelem alatt, például azért, mert harcképtelen. Ha a drónok nem rendelkeztek ezzel a képességgel, a célpontok ellenőrzésének kötelezettsége nem teljesült volna, ez pedig a fegyveres konfliktusokra vonatkozó jog megsértését jelentette volna.
Másodszor, tilos elrendelni, hogy ne legyenek túlélők, vagy akár ezzel csak fenyegetni is az ellenséget, illetve ezen az alapon katonai műveleteket folytatni. Ezzel a szabállyal kapcsolatban nem vetődik fel aggály, ha a drónok képesek voltak önállóan felismerni a megadás egyértelműen kifejezett szándékát, és tartózkodni az ilyen szándékot kifejező kombattánsok megtámadásától. Ha azonban a drónok nem rendelkeztek ezzel a képességgel, felmerül a kérdés, hogy alkalmazásuk nem minősült-e olyan harci cselekménynek, amelynek alapja az volt, hogy ne maradjon túlélő. Ha ez lett volna a helyzet, úgy a drónok ilyen bevetése a fegyveres konfliktusokra vonatkozó jog megsértését jelentené, még akkor is, ha végül nem került sor támadásokra megadás szándékát kifejező ellenséges kombattánsok ellen.
Végül pedig: észszerűen feltételezhető, hogy a drónok által az ellenséges kombattánsok ellen végrehajtott támadások közül legalább néhány véletlenszerűen kárt okozhat civil célpontokban is. Ha a konkrét célpontok kiválasztására és megtámadására vonatkozó a döntés a gépekre van átruházva, akkor is érvényben van az a kötelezettség, hogy tartózkodniuk kell olyan támadás elindításától, amelynek nyomán előre sejthető, hogy a várható konkrét és közvetlen katonai előnyhöz képest aránytalan mértékű véletlen kár keletkezhet civil célpontokban. Ez azt jelenti, hogy a drónoknak képesnek kell lenniük az arányosság kérdésének elemző kiértékelésére annak érdekében, hogy elkerüljék az ilyen eredménnyel járó támadások indítását, vagy legalábbis felismerjék a polgári célpontok véletlenszerű károsításának kockázatát, és a támadás végrehajtásától ennek nyomán tartózkodjanak, az elővigyázatosság elve alapján járva el.
Néhány tanulság
Függetlenül attól, hogy a New Scientist cikkében szereplő információk híven tükrözik-e a valóságot, az idézett híradás rávilágít a halálos autonóm fegyverrendszerek használatával kapcsolatos számos jogi kihívásra. A technológiai fejlődés és a katonai beszerzések ütemét és irányát figyelembe véve valószínű, hogy az ilyen rendszerek hamarosan elérhetővé válnak. Elengedhetetlen tehát, hogy ezeket a kérdéseket alaposan átgondoljuk, lehetőleg még mielőtt ez bekövetkezik.