Théorie du drone - Là-bas si j'y suis

[ergo]

Vu le prix de la munition, et l'étique derrière si les médias s'empare de la chose.

Oui, un opérateur c'est plus rentable !

PS : dans mon exemple simplifié ... rien ne te dis que le drône à pas mis la main sur 5 cibles, dont deux enfants, un chien et un soldat allié ... se "louper" ... c'est laisser le drone se faire les 5 cibles ? (parce qu'il aura pas les neurones pour faire l'analyse suffisante)

[jeanba]

Vu le prix de la munition, et l'étique derrière si les médias s'empare de la chose.

Oui, un opérateur c'est plus rentable !

PS : dans mon exemple simplifié ... rien ne te dis que le drône à pas mis la main sur 5 cibles, dont deux enfants, un chien et un soldat allié ... se "louper" ... c'est laisser le drone se faire les 5 cibles ? (parce qu'il aura pas les neurones pour faire l'analyse suffisante)

Tous les pays ne sont pas aussi embarrassés par l'éthique et les médias.
De plus, je parle dans un futur "relativement proche" ou les chances de "se louper" seront réduites.

J'exclus tout ça maintenant, mais l'expérience montre qu'avec l'automatisation, l'homme délègue de plus en plus à la machine. Le risque de confier la décision de tuer est à envisager.

[jojo]

Tous les pays ne sont pas aussi embarrassés par l'éthique et les médias.
De plus, je parle dans un futur "relativement proche" ou les chances de "se louper" seront réduites.

J'exclus tout ça maintenant, mais l'expérience montre qu'avec l'automatisation, l'homme délègue de plus en plus à la machine. Le risque de confier la décision de tuer est à envisager.

Visiblement on ne te fera pas dévier de ta logique "Terminator"...

[jeanba]

Visiblement on ne te fera pas dévier de ta logique "Terminator"...

Un constructeur de drône doit aller dans cette direction d'autonomie max pour soulager la charge des opérateurs et c'est le travail du législateur d'essayer d'encadrer leur utilisation, si possible en anticipant les évolutions potentielles.
Mais Nobel pensait qu'avec "sa" dynamite, les guerres seraient si destructrices que les hommes arrêteraient de se battre entre eux ...

[ergo]

Terminator ... l'image est bien trouvée

Je peut t'assurer que les prochaine UCAV (X-45 / nEUROn) ne feront pas ça. Et pourtant il représente ce futur "relativement proche".

[jojo]

Un constructeur de drône doit aller dans cette direction d'autonomie max pour soulager la charge des opérateurs et c'est le travail du législateur d'essayer d'encadrer leur utilisation, si possible en anticipant les évolutions potentielles.
Mais Nobel pensait qu'avec "sa" dynamite, les guerres seraient si destructrices que les hommes arrêteraient de se battre entre eux ...

C'est ta vision des choses, le travail d'un industriel est de répondre aux besoins du client. Attaquer une base aérienne de manière automatique pourquoi pas. Ce sont des cibles fixes, identifiées et clairement militaire. Alors une frappe de Scalp ou de drone ne change pas la donne. Par contre faire la différence entre le paysan qui travaille dans son champs en bord de route et le terroriste qui dissimule un IED c'est plus compliqué. Sans parler du CAS...

[jeanba]

C'est ta vision des choses, le travail d'un industriel est de répondre aux besoins du client. Attaquer une base aérienne de manière automatique pourquoi pas. Ce sont des cibles fixes, identifiées et clairement militaire. Alors une frappe de Scalp ou de drone ne change pas la donne. Par contre faire la différence entre le paysan qui travaille dans son champs en bord de route et le terroriste qui dissimule un IED c'est plus compliqué. Sans parler du CAS...

Je comprends tout à fait la situation actuelle.
Et mon travail à moi, c'est la R&D, donc j'anticipe par reflexe.

[jojo]

Et bien si ton travail c'est de faire en sorte que des machines tuent des gens sans décision humaine derrière, on va vraiment vers le meilleur des mondes...

[ergo]

Et bien si ton travail c'est de faire en sorte que des machines tuent des gens sans décision humaine derrière, on va vraiment vers le meilleur des mondes...

Je vais me préparer une lettre de démission ... au cas où ...

[jeanba]

Et bien si ton travail c'est de faire en sorte que des machines tuent des gens sans décision humaine derrière, on va vraiment vers le meilleur des mondes...

Ce n'est pas mon travail.
J'ai beaucoup dérivé / anticipé par rapport à ma question initiale :
En lisant les discussions sur le cadre législatif de l'utilisation des drones de combat, je me demande si ce cadre n'abordait pas de façon préventive l'autonomie de décision d'un drone.

[jojo]

Ça va je dormirai mieux ce soir alors

Je n'exprime ici que mon avis qui ne vaut pas plus qu'un autre.

Je ne condamne pas non plus les drones armés en tant que tel.

Mais un mon humble avis, un opérateur humain reste nécessaire pour prendre des décisions, et en particulier l'ouverture du feu, que ce soit pour des raisons éthiques ou même d'efficacité.

Pourquoi te sens tu visé Ergo ?

[ergo]

Pourquoi te sens tu visé Ergo ?

Je me sens pas visé, mais je me dis que le jour où je dois faire un tel système ... ca me dégoutera de tout ça.

[Rob1]

Au fait, n'y a-t-il pas des systèmes d'armes (autres que drones) avec engagement automatique ? Il me semble qu'il y a un tel mode sur certains navires de combat pour la défense antimissile.

[ergo]

Oui,

Sur navire ca s'appel la MEZ : Missile Exclusion Zone (de mémoire).

Si elle est activée, c'est une zone où tout objet detecté dedans est détruit sans discernment. C'est la dernière protection ultime d'un navire.

Sur CERTAIN navire ce système a été automatisé, avec une possibilité de laisser le système d'arme du navire contrôler lui même se truc. C'est quand même rarement utilisé... et dans ce cas , il y a encore des opérateurs prêt à stopper le système au besoin (la MEZ est petite, tu as le temps d'effectué une identification avant pour savoir si ca vaut le coup de lever le système).

Ca n'a rien a voir comme situation qu'un drone ... le drone n'est pas en danger.

[jojo]

Pas tout à fait.

La MEZ ou Missile Engagement Zone, est (dans la marine) la zone où le bateau assure son autodéfense, la CAP ne doit pas y pénétrer. Ça n'implique pas forcément que le système soit placer en auto.

Même si c'est possible sur le destroyers de classe Aegis, le CDG ou les FDA type Forbin.

Un bon exemple est l'Irak en 2003, une batterie Patriot était en automatique et a descendu un Tornado GR4 en panne IFF si mes souvenirs sont bons.

Peu de temps après une autre aurait verrouillé un F-16 CJ qui n'aurait pas fait la fine en balançant son AGM-88. Ce sont des anecdotes qui étaient sorties à l'époque, mais ma mémoire peut me jouer des tours.

Vive l'automatisme !

Bref, le jour où on met le système sur auto sur un bateau, c'est qu'on est à 2 doigts de l'apocalypse !

[Booly]

Pour le Tornado, ce n'est même pas une panne d'IFF, c'est "juste" que l'AN/MPQ-53 du Patriot avait été configuré en indépendant (et donc en dehors du réseau de défense intégrée... ) et en engagement automatique (alors que c'était contraire aux règles d'engagement prévues), et que le Tornado avait été assimilé à un missile anti-radar, et boum!

Une semaine plus tard, même topo avec un Hornet de la Navy, engagé et détruit de la même façon...

Par contre, l'histoire du F-16CJ, t'as des infos dessus?

[Rob1]

J'avais pensé à ces histoires de Patriot, mais en cherchant je n'ai pas trouvé d'info sûre disant qu'ils étaient sur un mode automatique.

Une semaine plus tard, même topo avec un Hornet de la Navy, engagé et détruit de la même façon...

Pour le Hornet, selon le livre Cobra II qui est une excellente histoire de l'invasion, les enquêtes n'ont jamais pu déterminer pourquoi il avait été considéré comme ennemi.

Par contre, l'histoire du F-16CJ, t'as des infos dessus?

J'en ai entendu parler aussi, le HARM a démoli le radar, sans pertes humaines

[jojo]

Pour le Tornado, ce n'est même pas une panne d'IFF, c'est "juste" que l'AN/MPQ-53 du Patriot avait été configuré en indépendant (et donc en dehors du réseau de défense intégrée... ) et en engagement automatique (alors que c'était contraire aux règles d'engagement prévues), et que le Tornado avait été assimilé à un missile anti-radar, et boum!

Une semaine plus tard, même topo avec un Hornet de la Navy, engagé et détruit de la même façon...

Par contre, l'histoire du F-16CJ, t'as des infos dessus?

Mea Culpa, j'en ai parlé de tête, ça doit être dans un Air Forces Monthly ou Air & Cosmos.
Mes sources à l'époque parlaient de panne IFF, mais la version que tu rapportes est encore plus c...

J'avais oublié le Hornet. Par contre tu sais si les équipages ont pu s'éjecter ?

[Mongoose]

Par contre faire la différence entre le paysan qui travaille dans son champs en bord de route et le terroriste qui dissimule un IED c'est plus compliqué. Sans parler du CAS...

L'œil humain, au travers de systèmes de restitution d'images, TV ou IR, peut confondre le téléobjectif d'un journaliste et un RPG 7 d'un insurgé; là où on commence à développer des logiciels capables de reconnaître des objets à distance.
Pour le moment le traitement en full automatique de cibles humaines semble exclu par ceux qui maîtrisent le mieux et emploient beaucoup les UCAV. Mais ce n'est qu'une question de temps, car leurs textes qui régissent le développement des systèmes qui nous intéressent, mettent en avant cette limitation au motif qu'il faut écarter le risque d'erreur. En fait, est ainsi subtilement inscrit dans ces textes, sans le dire, que si le risque d'erreur peut être réduit en des proportions meilleurs que celles induites par l'homme, et bien le full auto sera autorisé.
Laissez leur temps, comme il est dit en accidentologie aéronautique, de démontrer que la principale source d'erreur en condition d'exploitation c'est l'homme, que des systèmes sont désormais au point et permettent statistiquement de faire moins d'erreurs d'identification, alors cela passera pour un progrès.
Ce n'est qu'une question de temps, court.

[Rob1]

J'avais oublié le Hornet. Par contre tu sais si les équipages ont pu s'éjecter ?

Les équipages sont tous morts (2 pour le Tornado, 1 pour le F-18).

Pour ne rien arranger, lorsque le F-18 a été abattu, une patrouille a été envoyée chercher si le pilote avait survécu. Elle n'avait pas été informée que c'était un friendly fire pour ne pas leur plomber le moral. Quand ils ont vu des véhicules au sol près de la zone de recherche, ils ont supposé que c'était le SAM irakien qui avait descendu le F-18 et les ont bombardé. Manque de pot c'étaient des troupes US au sol (bon, il y a d'autres raisons à ce dernier blue-on-blue dont une mauvaise déconfliction puisque la patrouille en question avait reçu une clearance).

[Booly]

Jojo> Non, dans les deux cas, les équipages n'ont pas eu le temps de faire quoi que ce soit... Et j'ai vu passer des trucs à propos de l'IFF qui n'était pas reconnu par l'AN/MPQ-53 qui avait fait la désignation sur le Tornado, mais je n'ai jamais réussi à trouver le fin mot de l'histoire... Off, en panne, pas sur le bon squawk ou un squawk non reconnu par le FCR, j'ai entendu de tout sur cette histoire... Et pour le Hornet, comme ça a été dit, c'est encore plus ténébreux, les rapports d'enquête étant restés très évasifs (mais l'ami Rob1 est passé par là, et je le sais méchamment bien documenté)...

Mongoose> On fait la différence entre un téléobjectif et un RPG-7, au même titre qu'on fait la différence entre un balai et un fusil d'assaut. Ce qui est valable pour un AH-64 avec un MFD de 7 pouces ne l'est pas pour une GCS UAV avec un écran au minimum 15 pouces pour les versions les plus anciennes. Et pour avoir vu passer de l'imagerie Predator/Reaper de la RAF et de l'AMI (avec des payloads déjà relativement anciens), je pense pouvoir dire sans trop me planter que si moi, avec mon vieux B-Hunter, je peux le faire, eux avec leurs machines, ils le peuvent aussi... Les fadaises d'Hollywood sur les UAV qui font microscope sont une chose, mais celles des médias qui nous assimilent à des bouchers myopes en sont une autre, il y a énormément de choses qui se disent, et au même titre que pour l'aviation pilotée, il y a beaucoup de bêtises dans le tas... Quant aux textes que tu évoques, ça m'intéresserait énormément de les lire (et c'est dit sans aucun sarcasme!)

Quant à la "désignation automatique", je n'y crois pas une seule seconde endéans les 20 prochaines années, quand on voit les problèmes de traitement de la quantité d'images que génère la flotte UAV de l'USAF à elle toute seule... La capacité technique existe peut-être dans un labo du DARPA ou ailleurs, mais elle est budgétairement impayable, logistiquement intenable et éthiquement difficilement justifiable, parce que la paranoïa Nord-Américaine est telle qu'elle ne laisserait jamais faire un truc pareil (quand on sait déjà les restrictions sur l'usage du matériel de reconnaissance de la RCAF sur leur territoire national, et qu'il existe des trucs similaires sur le territoire US).

[Mongoose]

Premièrement, le parallèle entre téléobjectif et RPG 7 est une image ( sans jeu de mots là ) pour illustrer commodément dans le texte le fait que l'humain peut aux travers de l'imagerie faire des erreurs. C'etait donc une illustration Booly, rien que cela pour mettre en relief cette réalité. Aujourd'hui, même si l'imagerie est excellente, cela ne change rien au fait que dans la boucle, si erreurs il peut y avoir, c'est l'homme qui va la faire.. Ce dernier est limité, les systèmes sont pour le moment développés pour lui donner des extensions, et, parce qu'il est encore celui qui décide, l'erreur d'interprétation dans la chaîne décisionnelle est toujours rendue possible. Mais les gens eux ne voient que le drone, les médias aussi, et aurons tôt fait de remettre en cause le concept, alors que c'est encore l'humain qui va couiller dans le container.
Que crois tu que le politique veut ?
Il veut un système moins cher, dont il pourra tirer meilleur disponibilté et meilleur efficacité, efficacité opérationnelle et politique. Et sur cette dernière, si tu lui vends un système qui fait mieux que l'homme et qui lui assure statistiquement moins de méprises en opération, qu'il va devoir justifier devant l'angélisme de la société civile, que crois qu'il va choisir ?
De même, que crois tu que les gens vont plébisciter ? L'homme faillible qui statistiquement pourra être leur meurtrier, bien plus que pourrait l'être un système ?
Il ne faut pas perdre de vue que depuis longtemps maintenant l'homme a accepté de remettre sa vie entre les "mains" de systèmes divers et variés. La marche a franchir, du point de vue éthique pour le sujet qui nous intéresse est de ce point de vue plus faible qu'elle n'y paraît. En fait, il suffit juste que nous y trouvions un intérêt, et que l'on sâche nous en persuader. Dans l'ordre, aujourd'hui, c'est comme ça qu'évolue les pensées.
Ton regard Booly est juste, sur le plan opérationnel; mais il manque une dimension, celle des intérêts de ceux qui nous emploie, et le regards de ceux qui n'y connaissent rien et qui ont juste le besoin d'être rassurés. Ces derniers ne supportent pas une chose : que des semblables puissent avoir un pouvoir sur eux. Les dématérialisations des fonctions autrefois occupées par l'homme et dévolues aujourd'hui aux machines sont mieux acceptées par les masses. Les drones sous leur forme d'exploitation actuelle ne sont pas la finalité d'une marche technologique entamée il y a bien longtemps par l'homme. Ils ne sont pas à leur terminus au moment même de leur avènement. C'est une évidence Booly. L'automatisation complète sera la continuité, le contrôle et le pouvoir de décision restera entre les mains de l'homme, mais il s'exercera à la conception.
C'est cela le prochain niveau de maîtrise décisionnelle.

On en reparlera.

Sinon, biensûr il est possible que tu puisses voir un des textes que j'évoquais précédemment. Je ne les aurais pas évoqués si cela n'avait pas été possible.


DoD Directive 3000.09

Pour ne citer que celui ci...

Désolé pour le texte, je m'en excuse par avance, mais avec le téléphone, c'est pas très confortable.
Bonne nuit.

[jojo]

Page 3 de la Directive 3000.9

Human-supervised autonomous weapon systems may be used to select and engage targets, with the exception of selecting humans as targets

Comme je disais plus haut, envisager de traiter des installations purement militaires ne pose pas de problème, un drone ou un missile de croisière c'est kif kif. D'ailleurs il n'y a pas beaucoup de manif semble-t-il contre les Tomahawk.

Par contre, cibler des hommes de manière automatique pose un problème éthique.

[ergo]

Je persiste : Pour le moment, (et pour encore quelque dizaines d'années) le drone seul n'est pas capable de décision. Et c'est purement technique comme problème.

Il y a un problème de puissance de calcul sur les calculateurs embarqués qui ne permet pas d'être assez performant. Il faudra une liaison sol avec un centre de traitement en bas. Et a ce moment là ... avoir un humain pour superviser le truc, c'est quand même pas du luxe.

Faut voir le drone comme un capteur distant ... il fait très peu (voir aucun dans certain cas) traitement de l'image qu'il reçoit. A supposer qu'il soit capable un jour d'encadrer une cible qu'il aura détécté automatiquement avec le FLIR (implique un traitement de l'image) ca sera réalisé par la station sol, car le système va galérer pour le faire. Faut une bibliothèque des cibles, un outil de comparaison, un traitement de l'image.

Déjà en patmar c'est difficile à faire, alors qu'on a des opérateurs dans l'avion, que l'avion est bien plus gros, avec plus de puissance de calcul. Et pourtant il arrive que le PATMAR rentre à la base avec une signature inconnu qui sera identifié qu'une fois au sol.

Rien que pour ce problème technique (qui oblige la présence de centre au sol si l'on veut automatiser le système) je reste persuadé que le système restera au minimum "supervisé" par un humain, même si sa fonction sera uniquement de confirmer le target (un peu comme une sécurité armement) avant le tir.

[jojo]

Dans l'ensemble je suis d'accord avec toi. Maintenant pour attaquer une cible fixe aux coordonnées connues, pas besoin d'opérateur. Le SCALP et l'AASM IR ont des auto-directeur à imagerie qui font de la reconnaissance de scène et de cible. Je parle ici de bâtiments fixes.