Search
Faut-il avoir peur des robots ?
Mardi 13 Novembre 2018
Journal Electronique

Par Rachid Moussa

A la faveur de quelques faits d’actualité, notamment un accident de voiture sans conducteur et la « révolte » des travailleurs de Google contre la collaboration de leur entreprise avec des programmes d’armement de l’armée américaine, la question de la régulation de la recherche en intelligence artificielle, ne serait pas que par un cadre éthique, revient sur le devant de la scène médiatique.

Le vieux débat sur le rapport entre l’Homme et la machine refait surface ces derniers jours avec des points de critiques sur des programmes de recherche en IA (intelligence artificielle) source de motifs d’inquiétude au niveau de l’opinion publique, mais en même temps sujet de discussions dans les milieux scientifiques et même politiques.

Au mois de mars dernier, un véhicule sans conducteur, mis en circulation par la société de location de voiture Uber, percute et tue une jeune femme près de Phoenix, en Arizona, aux Etats-Unis. Suffisant pour remettre une nouvelle couche de doute, d’interrogations et de critique sur les conséquences du règne des ‘’machines’’ sur l’humain. Mais cela n ‘a pas eu beaucoup de retentissement si l’on considère la nouvelle affaire que viennent de mettre sur la place publique les travailleurs de Google. « Des employés de Google se révoltent contre leur employeur et démissionnent. Voilà ce qu'on a appris ces derniers jours. La raison de ces départs ? Ils estiment que leur société a franchi un pas en trop, à savoir aider le Pentagone, donc l'armée américaine, à développer un programme d'intelligence artificielle à des fins militaires », écrit le site http://trends.levif.be, dans un papier mis en ligne le 16 mai dernier sous le titre «  "Robots-tueurs": "Terminator était un film hier, il devient réalité aujourd'hui" ».

                                                                                                     Google pointé du doigt

Hormis quelques démissions enregistrées il y a quelques temps, effectivement ce ne sont pas moins que 5% de ses travailleurs, soit 4000 employés qui ont signé une pétition, publiée dans la presse américaine dans laquelle ils demandent « à la direction de Google de rester en-dehors d'une technologie potentiellement utilisée pour tuer », ajoute ce site. La collaboration de l’armée américaine avec la puissance algorithmique et le potentiel en recherche et développement de Google lui permet en effet   de parfaire ses capacités d’analyse des images et donc de mieux mettre à contribution les fameux drones. Le journaliste du site belge rappelle que « si les drones américains ont d'abord été utilisés pour effectuer des missions de surveillance, depuis l'invasion militaire de l'Afghanistan, puis l'invasion de l'Irak, ces drones ont depuis lors été utilisés comme engins de mort », avant d’alerter sur de possibles dérives en avisant que cette « intelligence artificielle pourra piloter demain des fusils, des missiles ou des bombes. Autant d'armes qui pourront fonctionner sans supervision humaine en théorie. »

L’affaire survient à un moment crucial pour Google qui ne doit être insensible aux déboires de Facebook encore sous le choc depuis l‘affaire Cambridge Analytica qui a vu les algorithmes traiter de millions de données personnelles et en tirer des caractéristiques de profil exploités pour les besoins d’une campagne électorale. D’autant que des voix de renom se sont associées à la démarche des employés de Google pour mettre « en garde régulièrement contre les usages abusifs de l'intelligence artificielle, craignant notamment l'avènement d'armes autonomes, ou ‘’robots-tueurs’’», lit-on dans un papier du site suisse tdg.ch, daté du 8 juin. Membre du «Partnership on Artificial Intelligence» engagé sur des usages éthiques de l'IA,

Le moteur de recherche a déclaré par la voix de son premier responsable qu’il œuvrerait pour des recherches à impact positif pour la société ; « Il exclut donc des utilisations de l'IA pour élaborer des ‘’armes’’ ou ‘’autres technologies dont le but principal est de causer ou de faciliter directement des blessures’’, selon le site suisse qui ajoute que Google s’oppose à toute recherche «qui entraîne ou est susceptible de causer du mal».

                                                                                                            La prise de conscience

Le sujet est pris au sérieux à bien des niveaux, y compris au sommet du G7 qui vient de se terminer au Canada, avec à l’ordre du jour cette problématique de l’IA. Lors des travaux préparatoires à ce sommet, les ministres du G7 en charge de l’innovation « se sont entendus sur certaines approches communes en matière d'intelligence artificielle et sur une liste de pratiques exemplaires » selon le ministre canadien du Développement social, de  même qu’ils ont adopté « une « vision commune d'une IA centrée sur l'humain, une vision qui exige d'aborder avec soin le développement et le déploiement de cette technologie prometteuse », d’après le texte de la Déclaration conjointe de Montréal.

Mais c’est au niveau de la communauté scientifique et universitaire que la prise de conscience est la plus avancée avec de nombreux travaux et rencontre scientifiques dédiés à la question de l’impact de l’IA. Sur le site https://quebec.huffingtonpost.ca, Stéphanie TessierDeep Learning chez Montreal.AI aborde, dans un papier mis en ligne le 15 mars 2017, la question de l’éthique comme unique fondement pour le moment pour encadrer la recherche en la matière.  « Quels seront les droits et les devoirs des robots et de leurs créateurs? Les robots peuvent-ils être conscients pour différencier le bien du mal? », s’interroge-t-il, avant d’ajouter qu’avec tout cela, il y a nécessairement une remise au gout du jour des ‘’ Trois lois de la robotique d'Asimov’’. Elles ont été énoncées en 1942 par l'auteur américain d'origine russe Isaac Asimov dans une nouvelle intitulé ‘’Cycle fermé’’. D’après le site numerama.com, ces «  trois lois de la robotique furent le fruit de discussions entre Isaac Asimov et John Campbell autour du thème des robots », et se présentent ainsi : « loi numéro 1 : un robot ne peut porter atteinte à un être humain ni, restant passif, permettre qu'un être humain soit exposé au danger ; loi numéro 2 : un robot doit obéir aux ordres que lui donne un être humain, sauf si de tels ordres entrent en conflit avec la première loi ; loi numéro 3 : un robot doit protéger son existence tant que cette protection n'entre pas en conflit avec la première ou la deuxième loi. »

De leur côté des scientifiques issus des universités américaines de Cambridge, Oxford, Yale, Stanford et d’associations OpenAI, Center for a New American Security, Electronic Frontier Foundation ont rendu public, début 2018, un rapport intitulé ‘’The Malicious Use of Artificial Intelligence’’ ans lequel ils mettent en garde contre les possibles usages malveillants des avancées de l’intelligence artificielle. Le site français futura-sciences.com qui a traité de ce document souligne que « dans les dix prochaines années, l'efficacité croissante de l'IA risque de renforcer la cybercriminalité mais aussi de conduire à des utilisations de drones ou de robots à des fins terroristes. Celle-ci est aussi susceptible de faciliter la manipulation d'élections via les réseaux sociaux grâce à des comptes automatisés (bots). » Les experts ont passé en revue différents cas de mésusages des technologies de l’IA et de la robotique, en illustrant leur propos, toujours selon futura-sciences.com, par « le cas d'un robot nettoyeur trafiqué qui se glisserait subrepticement parmi d'autres robots chargés de faire le ménage dans un ministère berlinois. Un jour, l'intrus passerait à l'attaque après avoir reconnu visuellement le ministre des Finances. Il se rapprocherait de lui et exploserait de façon autonome, tuant sa cible », écrit-il.

                                                                                                    L’éthique comme seul cadre de régulation?

Le débat se focalise actuellement sur les principes éthiques à appliquer à ce domaine sachant qu’il n’est pas susceptible, pour le moment, d’autres systèmes de normalisation.

La complexité du fonctionnement des ‘’robots-informatiques’’ pose un sérieux problème pour les chercheurs impuissant devant cette mécanique complexe. « Il est aujourd'hui impossible d'auditer une décision algorithmique de deep learning », lit-on sur le site www.sciencesetavenir.fr qui a mis en ligne le 30 mars dernier, un long papier de synthèse d’interventions d’éminents chercheurs associés à une rencontre de «trois heures d'intervention et d'échanges lors du sommet AI For Humanity organisé jeudi 29 mars 2018 au Collège de France pour accompagner la remise du rapport de Cédric Villani sur l'intelligence artificielle », ajoute –t-il. Intervenant à ce débat, le mathématicien Stéphane Mallat, titulaire de la chaire en sciences des données du Collège de France, a tenté de résumer la difficulté de lire la mécanique de fonctionnement des algorithmes tout en indiquant que, « parvenir à reconstituer le cheminement logique d'un algorithme, trouver les critères sur lesquels il s'est appuyé, représente, à terme, un gage de transparence, de fiabilité et d'une plus grande confiance en des machines perçues encore comme des “boîtes noires”. » Présente lors de cette rencontre, la mathématicienne américaine Cathy O'Neil, une ancienne conceptrice d’algorithmes pour les milieux financiers, est allé plus loin en soutenant que “Les algorithmes peuvent faire du mal, les algorithmes peuvent mentir” avant de constater que “Facebook est optimisé pour faire du profit, pas pour dire la vérité”. Pour illustre le propos sur les risques encourus devant les progrès non contrôlés de l’IA, la mathématicienne américaine a «  rappelé cette recherche douteuse récente concernant la reconnaissance des homosexuels d'après photo. Ou celle montrant combien les systèmes de reconnaissance faciale étaient plus performants pour les hommes et les blancs que pour les femmes et les noirs », rapporte sciencesetavenir.fr.

Rebondissant sur cette actualité de la colère des employés de Google le site canadien https://ici.radio-canada.ca est revenu sur les risques d’une ‘’Militarisation de l'intelligence artificielle’’ en avisant que, « l’ampleur des dégâts pourrait être sans limites ».

Consultant au Hastings Center, un organisme de recherche en bioéthique situé à New York, Wendell Wallach a publié en juin 2015, un ouvrage intitulé ‘’ A Dangerous Master : How to Keep Technology from Slipping Beyond Our Control  (Un maître dangereux : comment empêcher la technologie de glisser hors de notre contrôle). Celui-ci confirme les appréhendions nées des dérives de la recherche en intelligence artificielle, en expliquant au site canadien que « les développeurs de l’intelligence artificielle sont en train de créer des outils qui peuvent être utilisés de manière malveillante s’ils fonctionnent avec peu ou sans aucune intervention humaine. S’ils sont uniquement développés à des fins militaires, l’ampleur des dégâts pourrait être sans limites. »

La tendance semble se dessiner pour une concertation internationale sur la question de l’éthique de l‘intelligence artificielle mais surtout sur ses implications dans   le domaine de l’armement militaire.

Les discussions au sein du G7 sont un premier pas vers cette action internationale concertée mais pas encore suffisant. «Tant qu’il n’existe pas une loi internationale contraignante, il n’existe pas vraiment de moyen pour limiter l’utilisation de l’intelligence artificielle à des fins militaires », affirme M. Wallach, pour qui : « Sans un traité de non-prolifération des robots tueurs, rien n'empêchera une telle course à l'abîme ».

 

R.M

Santé

Environnement

Destination Algérie

Culture

Histoire

Sciences et Technologies

L'agenda

 APN
L’Assemblée populaire nationale consacrera le 15 novembre ses travaux en session plénière à l’adoption du rapport de la commission des affaires juridiques, administratives et des libertés sur la validation de la qualité de nouveau membre ainsi et le vote du projet de loi de finances de 2019.

Ministère des Moudjahidine
Le ministre des Moudjahidine, Tayeb Zitouni, effectuera, les 17 et 18 novembre, une visite de travail dans la wilaya de Médéa et présidera une rencontre autour de la guerre de Libération dans la région d’Oued Souf.

 Ministère de la Formation Professionnels.

Le Ministre de la Formation et de l’Enseignement Professionnels M. Mohammed Mebarki , effectuera le 13 novembre , une visite de travail et d’inspection dans la wilaya de M’Sila.

Ministère des Travaux publics
Le ministre des Travaux publics et des Transports, Abdelghani Zaâlane, inaugurera le 13 novemebre  à 8h30, les deux stations de métro de Gué-de-Constantine et Ali-Boumendjel.

Ministère de la Santé
Le ministre de la Santé, de la Population et de la Réforme hospitalière, Mokhtar Hasbellaoui, présidera, le 13 nevembre , à 8h30, à l’hôtel El Djazaïr (Alger), la célébration de la Journée nationale de sensibilisation et d’information sur la lutte contre les antimicrobiens.

Ministère de la Culture

Le ministre de la Culture, Azzedine Mihoubi, animera, le  13 nevembre  à 9h30 au Palais de la culture (Alger), une conférence de presse pour présenter le bilan du 23e Salon international du livre d’Alger.

 HCA
Le Haut-Commissariat à l’amazighité organisera, le 17 novembre à 10h, à la salle de cinéma «El Khiyam», une cérémonie en hommage à Khedidja Hamsi pour l’ensemble de sa riche carrière de créatrice de mode amazigh, de chanteuse et de comédienne.

HCI

Sous le haut patronage du Haut-Conseil islamique et avec la collaboration de l’association Saafi spécialisée dans la finance islamique, un colloque international sera organisé les 24 et 25 novembre au palais de la culture à Alger, sur le thème «L’assurance takâfoul et son rôle dans le développement économique global».

 Championnat d’Afrique militaire de boxe
L’Armée nationale populaire organise, à partir du 03  novembre, jusqu’au 10 novembre 2018, au Centre de regroupement et de préparation des équipes sportives militaires de Ben Aknoun, à Alger, la 5e édition du Championnat d’Afrique militaire de boxe, de l’Organisation du sport militaire en Afrique.

 CityCAD
La deuxième édition du CityCAD (Building and City Development Processes), qui se tiendra sous le parrainage du wali d’Alger, Abdelkader Zoukh, est programmée pour le 27 novembre à l’Ecole supérieure de l’hôtellerie et de restauration d’Aïn Benian (Alger).

Musique andalouse
La fondation cheikh Abdelkrim Dali organise, du 15 au 19 novembre, la 2e édition du concours national de la meilleure interprétation du chant andalou  «Prix Abdelkrim Dali». A cette occasion, une conférence de presse aura lieu le 07 novembre  à 11h, à l’hôtel Oasis

Ambassade d’Italie   
L’ambassade d’Italie et l’Institut culturel italien d’Alger, en collaboration avec le Théâtre municipal d’Alger-Centre, organise, le 14 novembre à 18h30 au niveau de ce dernier, un spectacle théâtral tiré du livre de Riccardo Nicolaï.
 

USTHB

L’Université des Sciences et de la Technologie Houari Boumediène , organise les 13,14 et 15 novembre, en collaboration avec l’association algérienne de physique « le 12ème congrès national de la physique et ses applications CNPA2018 » La cérémonie d’ouverture, aura lieu le 13 novembre au niveau de la maison de la science de L’USTHB.

 ONCI
L’Office national de la culture et de l’information, en partenariat avec l’EPTV et l’ENRS, organisera, le 13 novembre  à 13h au CHU de Douéra, dans le cadre d’un programme de solidarité, une représentation divertissante et de magie avec la troupe El Badi.         

MDN

La première région militaire organise du 12 au 15 novembre 2018 , niveau de l'école supérieure de la gendarmerie nationale de Zéralda , le Championnat national militaire inter-écoles de Judo.

 Forum de la mémoire

Le forum de la mémoire en coordination avec l’association Machâal Echahid organise le 13 novembre à10h, une conférence historique à l’occasion du 14ème anniversaire de la disparition du chahid symbole Yasser Arafat.

 Ambassade d’Espagne

L »ambassade d’Espagne, et l’institut Cervantes d’Alger organisent les 13 et 14 novembre à la faculté des sciences de l’information et de la communication de l’université d’Alger3, la commémoration du VIII centenaire de la prestigieuse université de Salamanque , et le 14 novembre à 09h30, l’université Alger2 Bouzareah le congrès international de traduction.

CACI
La Chambre algérienne de commerce et d’industrie organise  13 novembre  , à 10h, au Palais des expositions, une conférence de presse sur «les défis de la compétitivité et de la performance des entreprises algériennes pour la réduction des coûts logistiques».

Forum d’El Moudjahid  
Le forum d’El Moudjahid, en coordination avec l’association Machâal Echahid, organise,13 novembre à 10h, une conférence à l’occasion du 14e anniversaire de la disparition de Yasser Arafat.

ANVERDT
L’Agence nationale de valorisation des résultats de la recherche et du développement technologique organise, 13 novembre , au pôle universitaire de Koléa, la 2e journée de recherche en entrepreneuriat


 

 

 

Photo news
  • ligne maritime  Alger-Tamentfoust
  • ligne maritime  Alger-Tamentfoust
  • ligne maritime  Alger-Tamentfoust
  • ligne maritime  Alger-Tamentfoust
  • ligne maritime  Alger-Tamentfoust
  • ligne maritime  Alger-Tamentfoust
  • ligne maritime  Alger-Tamentfoust
  • ligne maritime  Alger-Tamentfoust
  • Exercice démonstratif combiné avec munitions réelles «Assifa 2018» à In Aménas
  • Exercice démonstratif combiné avec munitions réelles «Assifa 2018» à In Aménas
  • Exercice démonstratif combiné avec munitions réelles «Assifa 2018» à In Aménas
  • Exercice démonstratif combiné avec munitions réelles «Assifa 2018» à In Aménas
  • Exercice démonstratif combiné avec munitions réelles «Assifa 2018» à In Aménas
  • Exercice démonstratif combiné avec munitions réelles «Assifa 2018» à In Aménas
  • Exercice démonstratif combiné avec munitions réelles «Assifa 2018» à In Aménas
  •  Exercice démonstratif combiné avec munitions réelles «Assifa 2018» à In Aménas
  • Exercice démonstratif combiné avec munitions réelles «Assifa 2018» à In Aménas
  • Exercice démonstratif combiné avec munitions réelles «Assifa 2018» à In Aménas
  • École El Melah
  • École El Melah

Football

Sports Divers

Conception/Kader Hamidi . Hebergement/Kdhosting : kdconcept