Les début de Skynet

[larsenjp]

J'aurai mieux compris le parallèle avec les 737 MAX "tueurs", là ça fait froid dans le dos. Un mauvais automatisme, et paf, le drame... J'ai envie de dire que les humains n'ont pas su l'empêcher mais en fait je crois que si, faudrait rechercher les sources, il y a des équipages qui ont eu le même problème avec le MAX et qui ont bien réagi, sauvant du coup tout l'avion, il me semble... Non ?

Dans le cas du Lion Air, en effet, lors du vol précédent, l'équipage a eu les mêmes problèmes mais ils ont désactivé le trim électrique et terminé en manuel.

[Gaston]

En voiture c'est un peu différent puisque c'est du 2D mais c'est possible (notamment en conduisant avec des visibilités quasi nulles, typiquement avec un brouillard très épais).

Il n'y a pas que le brouillard très épais qui soit un problème de visibilité... il y a aussi l'"effet tunnel", quand on roule vite... à ce sujet, une excellente video de prévention thaïlandaise :

[youtube][/youtube]

Ca vaut pour les motards (cette video s'adresse à eux), mais aussi pour tous les autres usagers !

[OPIT]

Tu confonds algo et IA... Une IA peut parfaitement sortir de son cadre comme le montre l'exemple du départ. Je dois éliminer une cible, l'opérateur humain m'en empêche, je vais d'abord l'éliminer puis j'éliminerai ma cible. Il est certain que l'action "éliminer l'opérateur humain" ne fait pas partie de l'apprentissage initial de l'IA. Elle l'a déduite logiquement de son expérience. Et tu ne peux pas l'en empêcher. Il faut donc lui apprendre un truc du style "ne touche pas à l'opérateur humain". (...)

Je ne dis pas le contraire, je dis que sortir du cadre donne des résultats imprévisibles. L'exemple du départ, même théorique, suppose l'apprentissage de solutions pour contourner un empêchement, et suppose aussi le non apprentissage des lois (par exemple) sinon certaines solutions seraient rejetées. On en revient toujours à l'apprentissage, donc au cadre imposé qui fixe le champs des possibles mais dont on ne maîtrise pas véritablement l'étendue, ni la qualité des réponses sur tout le spectre, vu le nombre de paramètres impliqués dans le deep learning.
Reste par ailleurs un problème de taille. Si une IA arrive à produire quelque chose d'à peu près cohérent (mais pas forcément acceptable) à partir des données qu'on lui fournit, elle ne comprend toujours pas ce qu'elle fait.

[jojo]

Et je pige pas trop le parallèle avec German Wings ? Si le 2e pilote avait été une IA, il n'aurait pas pu empêcher le drame? Bah l'humain qui était là n'a pas non plus réussi. Et du coup, une IA ne se suicide pas non plus. Bref je pige pas trop la ref
J'aurai mieux compris le parallèle avec les 737 MAX "tueurs", là ça fait froid dans le dos. Un mauvais automatisme, et paf, le drame... J'ai envie de dire que les humains n'ont pas su l'empêcher mais en fait je crois que si, faudrait rechercher les sources, il y a des équipages qui ont eu le même problème avec le MAX et qui ont bien réagi, sauvant du coup tout l'avion, il me semble... Non ?

Tu ne comprends pas mais tu apportes la démonstration toi-même

Tu ne comprends pas parce que tu pars du principe que l'IA ne fera pas d'erreur (ce qui est un biais).

Je pars du principe qu'avec 400 personnes à bord, il faut quelqu'un pour rattraper les boulettes (autre biais).

Oui sur le vol précédent le crash de Lion Air, l'équipage de Lion Air avait désactivé le trim automatique et était passé en manuel.

Le faillite du système est due:
- à un manque de redondance des capteurs qui aurait permis d'isoler un capteur défectueux.
- à un manque de formation des équipages. L'avion étant réputé identique au/proche du B737NG pour limiter les coûts de formation.

Donc comme les systèmes avions peuvent faillir, il faut des équipages capables de rattraper. Si on met des pilotes, il faut prendre en compte les défaillances humaines possibles.

Il faut prendre en compte à la fois les défaillances matérielles (je fais entrer l'IA dans cette catégorie) et les défaillances humaines.

Un métro n'est pas comparable car c'est un environnement fermé. Par exemple je ne sais pas comment le métro automatique pourrait réagir à un homme sur la voie ?
Ils ont mis des sas sur les quais pour que ce ne soit pas possible.
Pour les tramways en surface qui cohabitent avec les piétons et les voitures, je ne connais pas de système sans conducteur ?

Ce qui peut aller dans ton sens, c'est l'atterrissage d'urgence automatique des SOCATA TBM.
Mais ce sont des avions privés certifiés mono-pilote. Donc si le pilote est incapacité, l'avion a de très grandes chances d'être perdu.
Si on prend le cas d'un AVC du pilote (pour prendre un cas où les passagers seraient eux encore en capacité), un passager peut appuyer sur un bouton qui déclenche le déroulement de l'avion vers le terrain le plus proche avec messages de détresse etc...
Par contre je ne sais pas comment est entretenue la base de données des terrains accessibles dans le système ?

Mais en gros, c'est un avion 6 places, le système augmente les chances des occupants dans une situation déjà très critique.
Ce n'est pas un automatisme en fonction à 100% du temps.

[Jaguar]

Ok je vois ce qie tu veux dire. En effet j'ai ce biais dans le raisonnement je pars du principe que l'IA fais mieux que l'humain car ça reste le but à atteindre et l'humain étant plus que faillible, c'est clairement le but attendu !
Je rappelle que l'erreur humaine est la première cause de crash. Si on parle d'IA c'est quand même, pas seulement mais beaucoup, pour régler ça. Donc il FAUT que l'IA fasse mieux que nous, même si tu as raison elle ne sera pas infaillible, une fois au point, mais je pense qu'elle s'en approchera bien plus que nous
Rien que les bagnoles autonome même s'il faut nuancer elles nous défoncent en fiabilité, alors même qu'elles ne sont pas prêtes, on est à un mort pour je ne sais combien de millions de km parcourus contre un taux moyen humain pour la même distance qui n'a rien à voir....
C'est pour ca que les arguments : "rien ne vaut un humain", est je pense un biais encore plus important... On est une belle machine, mais en fiabilité pure, peut mieux faire !

Pour le métro je le prenais comme exemple en terme de dispo, grèves, maladies, et rentabilité. Pour la signature de la responsabilité ! Car pour le reste en effet trop de différences pour etre comparable

[jojo]

L'IA c'est une chose, mais tout comme nous percevons notre environnement pas nos sens, une IA dans une machine percevra son environnement par ses capteurs. Et les capteurs tombent en panne, c'est pour ça qu'il y a de la redondance sur les avions.
Donc si l'humain peut être victime de malaises ou d'illusions sensorielles, l'IA peut être victime de pannes de capteurs qui affecteront ses prises de décision.

Par exemple des problèmes de radar météo ce n'est pas anecdotique.
Pour remplacer les pilotes dans leurs fonctions il y aura profusion de capteurs, car on en demanderait bien plus au niveau sécurité à un drone transportant 400 pax qu'à un Predator...s'il se crashe ce n'est que du materiel !

[Jaguar]

C'est vrai ! Ce sont ça les vraies questions je pense.
Ceci dit l'aviation est je pense un des domaines où la dépendance aux capteurs (donc sujet aux pannes, etc) est une des plus forte, déjà aujourd'hui, et même un pilote humain en cas de défaillance de ces capteurs a de sérieuses chances de se louper :(

Ce sont probablement, comme toujours, les comptables/financiers qui prendront la décision finale... La fameuse balance risque/bénéfice

[Balto]

En fait si les capteurs déconnent de toute facon les humains aussi prendront de mauvaises décisions, donc les capteurs ce n 'est pas l'argument qui dit que l humain fera mieux ou pas que l'IA. On a l exemple du vol Rio Paris.

Savoir si en cas de capteurs qui déraillent c est l IA ou l humain qui est meilleur pour sauver l'avion, c est la question.

[Flyingtom]

Et comment va réagir l'IA en cas de défaillance de capteur ? Jamais je ne mettrais les pieds dans un avion de ligne avec 1 seul pilote et après 7500h de vol, je pense savoir de quoi je parle et de ce qui peut arriver en vol. Il faut avoir suivi une séance de simu pour se rendre compte de la charge de travail pour les 2 pilotes lors d'une panne dans un environnement dynamique (terrain, météo). Et je rappelle que les scénarios donnés aux équipages actuellement lors des séances simu bi-annuelles, sont issues des situations réelles rencontrées par l'industrie. On ne travaille pas sur des scénarios irréalistes mais bien des événements réels.

Ensuite qui assume la responsabilité final du vol ? Le commandant de bord qui restera au vol ou sera en vol ? Comment va-t-on former les futurs commandants de bord ? Un copilote devient "prêt" après environ 2500/3000h de VOL avec un Commandant de Bord. Comment va se passer le transfert d'expérience du Captain vers le Copi si il n'y a plus qu'un seul pilote à bord ? Demandez à Sullyberger ce qu'il en pense de supprimer un pilote ... L'aspect économique est complétement fallacieux et hautement discutable. Pour de très faibles économie (et encore je demande à voir vu le cout de recherche/développement et des contraintes techniques ) , on met un ENORME coup à la sécurité des vols. Pour l'énorme majorité d'entre nous, la balance risque/bénéfice est extrêmement négative et on pense en savoir plus que des ingénieurs qui passent leur temps à éplucher des statistiques et à nourrir des IA. On passe notre vie dans des cockpits à affronter des situations sans cesse différentes et on ne peut que se féliciter d'avoir 2 cerveaux qui fonctionnent pour réaliser nos missions de transports en toute sécurité.

On ferait mieux de réfléchir à augmenter l'IA dans le contrôle aérien... ça éviterai de se prendre 2h de slot parce que certains contrôleurs ont un pet de travers (et de consommer inutilement du carburant/émettre du carbone au sol en attendant pendant les slots)...

EDIT : @Balto attention aux généralités... Ce n'est pas parce qu'il y a eu l'accident d'AF qu'il faut tout remettre en question... Il s'est passé la même chose dans d'autres compagnies et tout le monde ne s'est pas mis au tas !

[larsenjp]

Je ne dis pas le contraire, je dis que sortir du cadre donne des résultats imprévisibles. L'exemple du départ, même théorique, suppose l'apprentissage de solutions pour contourner un empêchement, et suppose aussi le non apprentissage des lois (par exemple) sinon certaines solutions seraient rejetées. On en revient toujours à l'apprentissage, donc au cadre imposé qui fixe le champs des possibles mais dont on ne maîtrise pas véritablement l'étendue, ni la qualité des réponses sur tout le spectre, vu le nombre de paramètres impliqués dans le deep learning.
Reste par ailleurs un problème de taille. Si une IA arrive à produire quelque chose d'à peu près cohérent (mais pas forcément acceptable) à partir des données qu'on lui fournit, elle ne comprend toujours pas ce qu'elle fait.

OK. Effectivement le problème reste l’apprentissage et l’exhaustivité de celui-ci qui sera difficile pour ne pas dire impossible à atteindre. On ne sera donc jamais à l’abri d’effets de bord imprévus. Mais je ne pense pas que cela empêchera le développement de l’IA.

En ce qui concerne la compréhension de l’IA, OK aussi quoiqu’il faudrait définir précisément ce que c’est que comprendre. A priori, étymologiquement, ce serait « saisir ensemble « . Une IA est elle capable de saisir la globalité d’une situation? Honnêtement je n’en sais rien.
D’un autre côté pas mal d’opérateurs humains appliquent des procédures sans comprendre ce qui se passe réellement. J’en vois tous les jours dans mon domaine. Et je ne suis pas sûr que 100% des pilotes/copilotes qui déroulent une procédure comprennent exactement tout ce qu’ils font.

[larsenjp]

L'IA c'est une chose, mais tout comme nous percevons notre environnement pas nos sens, une IA dans une machine percevra son environnement par ses capteurs. Et les capteurs tombent en panne, c'est pour ça qu'il y a de la redondance sur les avions.
Donc si l'humain peut être victime de malaises ou d'illusions sensorielles, l'IA peut être victime de pannes de capteurs qui affecteront ses prises de décision.

Je pense que tu confonds aussi un simple algo et une IA. Ce que tu dis est vrai pour un algo comme par exemple le MCAS qui, trompé par un capteur, va réagir toujours imperturbablement de la même façon avec pour conséquence de mettre l’avion au tas. L’IA devrait elle réagir comme un humain c’est à dire être capable se se rendre compte du pb (parce qu’elle l’a aura appris avant) et prendre la « bonne «  décision. Dans le cas du Lion, une IA aurait pu reconnaître la situation de la veille (et de l’avant veille) et couper d’elle-même le trim électrique (le pb étant qu’il lui faut quand même un certain nombre de situations pour apprendre). C’est comme ça que je vois l’apport d’une IA mais je me trompe peut-être. Le pb restera cependant de savoir qui garde la main en cas de conflit humain/IA.

[jojo]

L'IA c'est une chose, mais tout comme nous percevons notre environnement pas nos sens, une IA dans une machine percevra son environnement par ses capteurs. Et les capteurs tombent en panne, c'est pour ça qu'il y a de la redondance sur les avions.
Donc si l'humain peut être victime de malaises ou d'illusions sensorielles, l'IA peut être victime de pannes de capteurs qui affecteront ses prises de décision.

Je pense que tu confonds aussi un simple algo et une IA. Ce que tu dis est vrai pour un algo comme par exemple le MCAS qui, trompé par un capteur, va réagir toujours imperturbablement de la même façon avec pour conséquence de mettre l’avion au tas. L’IA devrait elle réagir comme un humain c’est à dire être capable se se rendre compte du pb (parce qu’elle l’a aura appris avant) et prendre la « bonne «  décision. Dans le cas du Lion, une IA aurait pu reconnaître la situation de la veille (et de l’avant veille) et couper d’elle-même le trim électrique (le pb étant qu’il lui faut quand même un certain nombre de situations pour apprendre). C’est comme ça que je vois l’apport d’une IA mais je me trompe peut-être. Le pb restera cependant de savoir qui garde la main en cas de conflit humain/IA.

Non je ne confonds pas.
Un avion évolue dans un environnement ouvert et doit pouvoir réagir à l'imprévu dans son environnement, il lui faut donc des capteurs pour percevoir l'environnement en plus des capteurs pour percevoir la situation et l'état de l'avion.

Dans le cas du Lion Air, n'ayant jamais rencontré le cas, l'IA aurait pu se planter à la première occurrence du problème.

[Balto]

Je pense que tu confonds aussi un simple algo et une IA.

Non je ne confonds pas.

Dans le cas du Lion Air, n'ayant jamais rencontré le cas

CQFD : tu confonds bien.
Une IA dont on parle c'est pas quelque chose qui a besoin d avoir deja rencontré le cas pour bien réagir face à ce cas.


Sinon pour Flying Tom

Pour le responsabilité : ce sera la compagnie aérienne tout simplement.

Pour la balance bénéfice/risque + charge de travail : honnetement on en sait rien à l heure actuelle et d ailleurs cette balance évoluera avec le temps.
Les faits sont que les ordinateurs calculent plus vite que l homme, ont une capacité à mémoriser de facon incroyablement supérieures à l homme et concernant l'IA dont on parle on sait qu'elle a cette capacité à faire de bon choix très compliqués là ou l homme avec les mêmes paramètres sera au minimum plus lent voir sera lent ET se trompera.
C'est pour ca qu on est entrain de parler d IA sur ce post :
Tout laisse à penser que l IA dans le domaine de l aviation, fera mieux que l homme.

Pour l expérience d un pilote sur des scénarios : c est quoi l experience ? c'est de la mémoire + de la déduction et ca, comme dit plus haut les ordis font mieux que nous.
Quand au temps pour acquérir les données/scénarios l'USB 1 est déja supérieur à ce que l homme peut faire.
Le transfert d expérience entre une IA et une autre ce sera 48h max et pas besoin de dormir pour l IA et pas de maux de ventre et pas d envie de suicide

Si tu parles de acquisition des datas avant d eventuellement passer en IA full responsable voilà comment la chose est prévue :
Pendant x années tu adjoins une IA sur un groupe d avions Y et ca engrange les datas.
Plus le X et Y sont grands plus l IA sera performante.
Oui ca coutera cher et perso je ne sais pas si ce sera plus cher ou moins cher que de laisser des pilotes seuls aux commandes.
C'est évident que ceux qui bossent sur les IA pour supplanter les pilotes cherchent à faire passer les sous dans leurs poches et n agissent pas par pur bonté.


Pour le controle aérien qui passerait sous AI : c'est interessant de voir que tu n y vois pas d objection alors que tu en vois pour le pilotage.
Je ne juge pas ton avis hein soyons clair mais tu percois donc l IA comme étant supérieur à l homme au moins pour le controle aérien.
(Pourquoi ne pas aller au bout du raisonnement et l'appliquer au pilotage ?)

Enfin, pour les pannes de capteurs car je revois encore ca sur certains posts :
Ok sur le fait que l IA aura besoin de plus de capteurs et donc plus de possibilité de pannes mais dans l aviation on considère aussi qu'un avion est sur avec des capteurs doublés ou triplés donc..
Mais avec sa capacité à analyser ultra rapidement les choses et même des paramètres que NOUS NE POUVONS PAS PERCEVOIR, il est très probable que l'IA s en sorte mieux que l'homme (qui subira aussi des pannes de capteur) dont en plus, on sait tous que le cerveau ne fonctionne pas bien sous haut stress.
Le Stress, l IA connait pas.
L'ego l IA connait pas
La fatigue l'IA connait pas
etc

[OPIT]

Ok je vois ce qie tu veux dire. En effet j'ai ce biais dans le raisonnement je pars du principe que l'IA fais mieux que l'humain car ça reste le but à atteindre et l'humain étant plus que faillible, c'est clairement le but attendu !

Le biais n'est pas de penser que l'IA fera mieux que l'humain, il est de penser qu'elle le fera en tout lieu et en toute circonstance. Pour des tâches précises, normées, dans un environnement contrôlé, ça peut le faire. Pour le reste... Y compris et surtout lorsqu'on déborde des tâches précises prévues, des normes définies, ou qu'on se retrouve dans un environnement pas aussi contrôlé qu'espéré.
L'intelligence c'est aussi reconnaitre ne pas savoir ou refuser de trancher si les risques prévisibles d'une décision foireuse sont catastrophiques, c'est l'anticipation, les analogies, et tout un tas d'autres procédés plus ou moins subjectifs et pas vraiment accessibles à une machine qui passe des données dans une moulinette déterministe pour cracher un résultat.

[Flyingtom]

Sinon pour Flying Tom

Pour le responsabilité : ce sera la compagnie aérienne tout simplement.

Pour la balance bénéfice/risque + charge de travail : honnetement on en sait rien à l heure actuelle et d ailleurs cette balance évoluera avec le temps.
Les faits sont que les ordinateurs calculent plus vite que l homme, ont une capacité à mémoriser de facon incroyablement supérieures à l homme et concernant l'IA dont on parle on sait qu'elle a cette capacité à faire de bon choix très compliqués là ou l homme avec les mêmes paramètres sera au minimum plus lent voir sera lent ET se trompera.
C'est pour ca qu on est entrain de parler d IA sur ce post :
Tout laisse à penser que l IA dans le domaine de l aviation, fera mieux que l homme.

Pour l expérience d un pilote sur des scénarios : c est quoi l experience ? c'est de la mémoire + de la déduction et ca, comme dit plus haut les ordis font mieux que nous.
Quand au temps pour acquérir les données/scénarios l'USB 1 est déja supérieur à ce que l homme peut faire.
Le transfert d expérience entre une IA et une autre ce sera 48h max et pas besoin de dormir pour l IA et pas de maux de ventre et pas d envie de suicide

Si tu parles de acquisition des datas avant d eventuellement passer en IA full responsable voilà comment la chose est prévue :
Pendant x années tu adjoins une IA sur un groupe d avions Y et ca engrange les datas.
Plus le X et Y sont grands plus l IA sera performante.
Oui ca coutera cher et perso je ne sais pas si ce sera plus cher ou moins cher que de laisser des pilotes seuls aux commandes.
C'est évident que ceux qui bossent sur les IA pour supplanter les pilotes cherchent à faire passer les sous dans leurs poches et n agissent pas par pur bonté.


Pour le controle aérien qui passerait sous AI : c'est interessant de voir que tu n y vois pas d objection alors que tu en vois pour le pilotage.
Je ne juge pas ton avis hein soyons clair mais tu percois donc l IA comme étant supérieur à l homme au moins pour le controle aérien.
(Pourquoi ne pas aller au bout du raisonnement et l'appliquer au pilotage ?)

Enfin, pour les pannes de capteurs car je revois encore ca sur certains posts :
Ok sur le fait que l IA aura besoin de plus de capteurs et donc plus de possibilité de pannes mais dans l aviation on considère aussi qu'un avion est sur avec des capteurs doublés ou triplés donc..
Mais avec sa capacité à analyser ultra rapidement les choses et même des paramètres que NOUS NE POUVONS PAS PERCEVOIR, il est très probable que l'IA s en sorte mieux que l'homme (qui subira aussi des pannes de capteur) dont en plus, on sait tous que le cerveau ne fonctionne pas bien sous haut stress.
Le Stress, l IA connait pas.
L'ego l IA connait pas
La fatigue l'IA connait pas
etc

Non , les compagnies n'accepteront pas cette responsabilité finale . Dans le passé , combien de fois les compagnies se sont défaussées sur l'équipage quand il y a eu un probleme humain... Evidemment que l'IA traite plus de données que nous, comme une calculatrice de poche est plus forte en calcul mental que nous , faut arreter avec ce poncif... Quand je parle l'IA dans le controle aérien, je parle de gestion de trafic ce qui est bien différent du pilotage d'un avion.

Le pilotage d'un avion requiert bien plus que tu crois . A chaque instant du vol , de la preparation à l'execution , l'équipage procède continuellement à l'évaluation des menaces , ce qu'on appelle le TEM (Threat-Error Management) . On se sert de soft skills, technical skills afin de pouvoir identifier, classer et controler les menaces pour les éliminer si on peut ou diminuer leurs effets .
Vois ca comme un triangle :
-Sommet 1 ATTITUDE ( Workload Management, Situation Awareness, TeamWork, Communication, Problem Solving, Decision Making) , ce que l'on appelle les soft skills
-Sommet 2 KNOWLEDGE (Connaissance technique avion, Connaissance Operating Procedure)
-Sommet 3 SKILLS (Habilité Pilotage Manuel, Utilisation Automatisme)

Cela fonctionne comme un triangle du feu, tu enlèves un sommet et cela éteint le feu. Ici c'est pareil, tu enlèves un sommet et tu supprimes le TEM . On utilise toutes ces competences pour identifier, pieger et controler les menaces d'erreur, les menaces liées à l'environnement, les menaces liées à l'état technique de l'avion, etc etc ...

Tu parles d'une triple redondance des capteurs comme une solution miracle alors pourquoi les constructeurs se font chier à développer des procédures en cas de triple panne ?
Je serai ensuite curieux de voir les MMEL (Master Minimum Equipment List) des constructeurs sur des avions IA au vu de la complexité des systèmes à intégrer. C'est deja très complexe en l'état. Si tu savais combien de fois on doit faire un reset de computer dans des avions actuels au quotidien (la liste de Computer Reset est longue comme le bras sur A320), comment ca se passera ensuite? On la reset comment une IA à 39000ft au milieu de l'Atlantique avec 300pax à bord ? Rien que pour faire un AUTOLAND, la liste des choses à faire que se soit au niveau de l'aéroport et au niveau contrainte technique dans un avion est deja un GROS boulot . Je rappelle que c'est assez rare mais que le taux de succès d'un AUTOLAND n'est pas de 100% mais de 99% .
Si on généralise l'atterrissage automatique au niveau mondial , soit 90 000vol/jour , 1% de déchet cela ferait 900 échecs/jour . Ca commence à faire beaucoup.

Ensuite la prise de décision : Exemple , tu as un pax qui fait une crise cardiaque, le seul terrain proche avant une traversée de 3h sans aéroport de dégagement a un METAR qui annonce BKN12 CB VC TSRA . Que va faire l'IA ? Que va faire un équipage ? Continuer le vol vers un terrain éloigné plus safe (ce qui condamne le PAX) ou tenter une approche en terminant à vue pour éviter les cunimbs ?

[Jaguar]

On croirait lire les graphistes qui nous expliquent à quel point une IA est incapable de transmettre une émotion, que ça je remplacera jamais un humain pour faire une oeuvre.... Riche discussion !

Tout ce que tu dis sur la partie équipage est vrai aujourd'hui. Tu as entièrement raison. Mais c'est vraiment faux concernant les promesses de l'IA, dans un futur à moyen terme. Et quand je parle des promesses je parle pas des fantasmes du grand public mais bien de ce que les gens "qui savent" dans le domaine estiment.
Ils peuvent se tromper, je peux me tromper, mais je pense que SI L'IA remplie ses promesses, alors tout ce que tu soulève ne sera plus vrai à ce moment-là !

Pour les compagnies et la responsabilité, en revanche, c'est moins évident.... Et il se pourrait que ca soit ça qui résiste longtemps, assez ppur sauver tous vos emplois, ce que je vous souhaite de tout coeur!

Si besoin, je rappelle que prophétiser (et potentiellement avoir tout faux) n'est pas souhaiter

[Milos]

Un truc tout bête qui était arrivé à Marignane : les portes d'un avions restaient closes car il y avait un fort mistral de face. L'avion se croyait encore en vol, donc du coup il n'ouvrait pas. Comment pourrait réagir une IA face à ça si on n'a pas pensé à lui soumettre le cas auparavant ?

- "On est en vol, je n'ouvre pas les portes et pis c'est tout" sans aller chercher plus loin parce que le pourquoi de l'ouverture des portes, elle s'en cogne, ou
- "il y a du vent relatif mais les roues ne tournent pas et je suis visiblement au sol, j'ouvre, j'ouvre pas ?"

Je pense que quand l'IA a un dilemme, il est bon qu'il y ait un humain à bord à qui le soumettre.

[jojo]

CQFD : tu confonds bien.
Une IA dont on parle c'est pas quelque chose qui a besoin d avoir deja rencontré le cas pour bien réagir face à ce cas.
(…)
Si tu parles de acquisition des datas avant d eventuellement passer en IA full responsable voilà comment la chose est prévue :
Pendant x années tu adjoins une IA sur un groupe d avions Y et ca engrange les datas.
Plus le X et Y sont grands plus l IA sera performante.

Fantastique !
Mais elle n’a pas besoin de tourner en double avec des équipages pour engranger des datas puisqu’elle n’aurait pas besoin d’avoir rencontré les cas pour mieux réagir que les humains, n’est-ce pas ?

Donc une panne non connue sur un nouvel avion, ce serait “finger in the nose”.

Tu nous expliques avec conviction « voilà comment c’est prévu ». Est-ce que tu travailles sur le sujet ?
Moi je travaille dans le CCO d’une compagnie, tous les problèmes d’exploitation sont remontés vers nous.
Accessoirement j’ai déjà vécu l’introduction de 2 nouveaux types avions dans ma petite compagnie (pas seulement nouveaux pours nous, mais permis les premiers à les exploiter) avec toutes les maladies de jeunesse que ça comporte.

Ça prend déjà du temps de fiabiliser de « simples algorithmes » et les détections de panne, alors non, je ne pense pas que ce soit aussi trivial que tu les prétends.

Je ne sais pas qui a pris le temps de lire les 2 liens sur la mise en service de l’A320 ?
Ça n’a pas changé, on a toujours ce genre de conneries à gérer sur des avions mis en service récemment.

Oui, il y a des progrès sur les analyses de panne, en particulier grâce à des analyses vibratoires sur un moteur par exemple. Mais remplacer un équipage PNT, c’est une autre paire de manche.

[Flyingtom]

Donc l'IA remplace:
-Les avocats (comme elle peut mémoriser des Tb de loi/jugement/jurisprudence)
-Les comptables
-Les medecins (limité pour l'instant comme un "assistant au diagnostic" (notez les guillemets)
-Les artistes (elle connait tous les genres/techniques)
-Les écrivains
-Les scénaristes
-Les journalistes
-Les profs (elle est capable de faire une dissertation sur n'importe quoi)
-Les militaires
-Les métiers support
-Les codeurs
-Les pilotes de ligne

Ma question : pourquoi faire ? Qui a envie de vivre dans un monde comme ca ? On veut vraiment créer une future génération d'abrutis sans imagination ? OK on peut le faire, la question est : le doit-on?

[Jaguar]

Un truc tout bête qui était arrivé à Marignane : les portes d'un avions restaient closes car il y avait un fort mistral de face. L'avion se croyait encore en vol, donc du coup il n'ouvrait pas. Comment pourrait réagir une IA face à ça si on n'a pas pensé à lui soumettre le cas auparavant ?

- "On est en vol, je n'ouvre pas les portes et pis c'est tout" sans aller chercher plus loin parce que le pourquoi de l'ouverture des portes, elle s'en cogne, ou
- "il y a du vent relatif mais les roues ne tournent pas et je suis visiblement au sol, j'ouvre, j'ouvre pas ?"

Je pense que quand l'IA a un dilemme, il est bon qu'il y ait un humain à bord à qui le soumettre.

Un opérateur au sol pour gérer les cas non conformes que l'IA ne sait pas gérer en matière de décision/responsabilité, un opérateur "compagnie" pour X avions.
Pour chaque problème une solution !
Sachant que malgré la démonstration de Flyingtom, je continue de penser qu'un algo (certes très perfectionné) pourra faire le taf. Pas besoin d'une vraie IA. Je sais que c'est flippant, ça nous pique dans notre égo en tant qu'espèce au sommet de la pyramide alimentaire, mais je le pense sincèrement, et c'est pas un acte de foi (et encore moins un voeu)...

Au final, dire que "une IA ne pourra jamais piloter un avion commercial avec des passagers", ça revient, in fine, à dire : "une IA ne surpassera jamais, ni même n'égalisera, le cerveau humain"
Si c'est vrai, alors nous sommes tranquille. Hors les modèles tendent tous à montrer que si, l'IA surpassera bien le cerveau humain dans tous les domaines.
Ce qu'on appelle l'expérience n'est "que" piocher de façon très rapide dans nos souvenirs et acquis en faisant un mélange hyper performant de tout ça. Parfaitement faillible, mais quand même très performant. Les Soft Skills, c'est quoi? Ce sont aussi nos acquis. Basés sur la mémoire, le drill, la mémoire musculaire, et notre capacité à mélanger tout ça. Et sûrement d'autres choses. Mais je ne vois rien de non modélisable.
Notre cerveau EST un ordinateur. Hyper balaise. Le jour où on en fait un meilleur, bon bah... il est meilleur quoi !
Et quand on pose la question à des gens spécialisés en IA ou en étude de l'état de l'art de l'IA, meilleurs que moi en informatique et en IA et meilleurs que Flyingtom en aviation, bref, le lourd quoi, la question n'est pas : "est-ce que l'IA dépassera le cerveau", mais "quand l'IA dépassera le cerveau" ? Là, on trouve un panel de réponse très large, allant de 2030 à 2100 et des brouettes.... Mais je n'ai rien lu/vu/entendu de sérieux qui réponde : "impossible"

Prenons la chose autrement. L'IA, l'actuelle, celle qui est encore trop juste pour prendre la responsabilité d'une bagnole ou d'un avion, est-elle plus performante/intelligente qu'un cerveau de souris? De poule? De cheval? De chien? De Dauphin? De Pieuvre? Je pense que pour la majorité d'entre eux, la réponse est oui.
Hors, leur cerveau n'est pas bien différent du notre. Ils sont juste "moins bons". Du coup, si on admet ça (IA > cerveau biologiques non humains), alors ce n'est bien qu'une question de temps et de puissance avant qu'on soit dépassé à notre tour. Nous ne sommes pas l'accomplissement, la perfection d'une volonté divine (personne n'a dit ça, je sais bien), mais juste les moins mauvais sur notre planète

Donc l'IA remplace:
-Les avocats (comme elle peut mémoriser des Tb de loi/jugement/jurisprudence)
(...)
-Les pilotes de ligne

Ma question : pourquoi faire ? Qui a envie de vivre dans un monde comme ca ? On veut vraiment créer une future génération d'abrutis sans imagination ? OK on peut le faire, la question est : le doit-on?

Pour ce message, plus sociétale qu'autre chose, je ne pense pas que quiconque souhaite cela, moi le premier je ne le souhaite pas. C'est en ça que l'IA pourrait devenir une menace pour nos sociétés. Là, pour moi la question est beaucoup, beaucoup plus ouverte que sur sa simple capacité...
C'est pour ça que certains veulent transformer radicalement notre modèle sociétal et économique, en parlant de revenu universel, ce genre de chose (pitié, pas de déviation politique, ce n'est ni la place ni mon propos, juste l'énoncé d'un fait. Certains veulent ce genre de choses pour d'autres raison, mais pour d'autres encore, c'est bien la perspective du "grand remplacement IA" qui motive de genre de propositions de transformations)

Donc une panne non connue sur un nouvel avion, ce serait “finger in the nose”.

Vraie question : une panne non connue sur un nouvel avion, est-ce que la majorité des pilotes humains s'en sort? Aucune idée de la réponse, mais j'ai un peu peur de la réponse, si tant est qu'elle existe quelque part

Sinon je trouve un peu étrange de s'appuyer sur toutes les difficultés actuelles des être humains pour justifier qu'une IA n'y arrivera pas. Sauf à présupposer, cf plus haut, qu'une IA ne fera jamais mieux qu'un humain, ce qui reste possible, même si peu probable d'après les experts.

Dernière question ouverte : pourquoi est-ce que les avions d'aujourd'hui sont autant informatisés? Pourquoi on n'est pas encore sur de bons vieux DC-6 ? (mon rêve !)
Vous avez 4h

[Flyingtom]

Sinon je trouve un peu étrange de s'appuyer sur toutes les difficultés actuelles des être humains pour justifier qu'une IA n'y arrivera pas. Sauf à présupposer, cf plus haut, qu'une IA ne fera jamais mieux qu'un humain, ce qui reste possible, même si peu probable d'après les experts.

Dernière question ouverte : pourquoi est-ce que les avions d'aujourd'hui sont autant informatisés? Pourquoi on n'est pas encore sur de bons vieux DC-6 ? (mon rêve !)
Vous avez 4h

C'est pas tout à fait cela, mais on arrive à gérer les difficultés des etres humains à piloter un avion . La sécurité aérienne n'a jamais été aussi bonne et par la formation on arrive encore à l'améliorer. Introduire ce nouvel acteur (l'IA) n'augmentera pas la sécurité des vols , on va d'abord créer des problèmes qui n'existent pas et par ricochet , cela risque de diminuer cette sécurité. Et introduire l'IA sous pretexte de faire des économies et de palier au manque de pilotes , alors que l'on veut stopper et réduire le trafic aérien , c'est juste un vaste foutage de gueule

[Jaguar]

J'aurai bien aimé ta réaction sur le reste de mon raisonnement mais bon, tant pis

Je te rejoins cependant, si un jour les IA vous remplacent, et si ca arrive c'est quand même pas demain, la sécurité aérienne ne sera pas la raison, celle ci sera purement financière, si et seulement si ils arrivent à préserver la sécurité. Et s'ils l'augmentent, attention le marketing qui nous expliquera à quel point tout ça n'est QUE pour l'amour de l'être humain, la vie, etc etc

[ceramix]

Pour les autos, l'inadaptation de l'IA à la conduite est due ... aux humains !
Dans un univers 'IA only' ça se passe plutôt bien (rames autonomes par exemple). Dans un environnement avec humains, l'humain a des capteurs très performants (les yeux surtout, mais pas que : l'odorat pour le moindre début de combustion, la dynamique de l'oreille, le toucher au 1/100 de mm ). A un carrefour, n'importe quel 2 roues sait en 2s qui l'a vu, qui le regarde et qui ne peut pas le voir (allez demander à une caméra de croiser tous les regards ... ).

A l'opposé cet accident de Tesla avec tunnellisation IA vaut le détour par son énormité :
https://data.ntsb.gov/Docket/Document/d ... 01-Rel.pdf

[Balto]

Non , les compagnies n'accepteront pas cette responsabilité finale .

Tu as peut etre raison. Mais ca peut aussi être un mix de la compagnie ou de ceux qui vendent l IA ou que de la compagie ou que de l entrepise qui vend l IA. Mais franchement ce n est pas ca qui empechera les IA d etre maitre a bord d'un avion tout seul dans l'avion.
Comme tu le dis aussi ce sera financier : si les IA sont moins cheres que les humains à qualité plus ou moins égale les pilotes seront remplacés.

Le pilotage d'un avion requiert bien plus que tu crois . A chaque instant du vol , de la preparation à l'execution , l'équipage procède continuellement à l'évaluation des menaces , ce qu'on appelle le TEM (Threat-Error Management) .

La charge de travail je pense vraiment que les ordinateurs et les IA les gereront mieux.
A l heure actuelle tu es incapable de faire mieux qu'une IA pour identifier des animaux sur 10 000 photos en 1 seconde
De meme tu es incapable de faire , je sais pas disons 500 parties d echecs en meme temps et de les gagner.

Tu parles d'une triple redondance des capteurs comme une solution miracle alors pourquoi les constructeurs se font chier à développer des procédures en cas de triple panne ?

Et donc pour les IA ne pourraient pas suivre des procédures ?

Ensuite la prise de décision

Tu feras moins vite qu'une IA j'en suis persuadé et en situation de stress la qualité de tes décisions sera moins bonne.
Je n oublie pas que tu es déjà d accord pour penser que le controleur aérien humain est moins bon.

[Balto]

CQFD : tu confonds bien.
Une IA dont on parle c'est pas quelque chose qui a besoin d avoir deja rencontré le cas pour bien réagir face à ce cas.
(…)
Si tu parles de acquisition des datas avant d eventuellement passer en IA full responsable voilà comment la chose est prévue :
Pendant x années tu adjoins une IA sur un groupe d avions Y et ca engrange les datas.
Plus le X et Y sont grands plus l IA sera performante.

Fantastique !
Mais elle n’a pas besoin de tourner en double avec des équipages pour engranger des datas puisqu’elle n’aurait pas besoin d’avoir rencontré les cas pour mieux réagir que les humains, n’est-ce pas ?

Mais si. Elle a besoin de tourner en double sans quoi elle ne pourra pas constituer la data qui lui permettra de créer ses réseaux de boites noires.
Data qui n'ont pas besoin de couvrir tous les cas possibles , la contrainte etant tout de meme : immense collecte de données variées.

Donc une panne non connue sur un nouvel avion, ce serait “finger in the nose”.

Comme un pilote humain, et probablement mieux puisqu elle pourra analyser (rapidement) des paramètres que des pilotes stressés ne penseront pas à utiliser.

Moi je travaille dans le CCO d’une compagnie, tous les problèmes d’exploitation sont remontés vers nous.
Accessoirement j’ai déjà vécu l’introduction de 2 nouveaux types avions dans ma petite compagnie (pas seulement nouveaux pours nous, mais permis les premiers à les exploiter) avec toutes les maladies de jeunesse que ça comporte.

Ca fait de toi quelqu'un de tres intéressant à lire sur C6 et je te remercie des apports que tu fais.

Oui, il y a des progrès sur les analyses de panne, en particulier grâce à des analyses vibratoires sur un moteur par exemple. Mais remplacer un équipage PNT, c’est une autre paire de manche.

Je n'en doute pas.