Qu’y a-t-il de plus alarmant que la perspective d’une fin de l’humanité provoquée par l’IA et les…

La crainte que l’intelligence artificielle, la robotique quantique ou même la chaîne de blocs entraîne notre extinction n’est rien de moins qu’une exagération. Dans les faits, la convergence de ces technologies pourrait avoir un impact gigantesque sur nos vies.

Robotics

J’ai lu de nombreux blogues et articles de forum qui présentent une vision apocalyptique de la façon dont l’intelligence artificielle, la robotique quantique ou les robots provoqueront l’extinction des humains ou comment la chaîne de blocs allait rendre les activités bancaires obsolètes. Et si nous ne focalisions pas sur le véritable enjeu? Et si la convergence représentait la vraie menace?

Petits rappels…

L’informatique quantique : ce nouveau modèle de calcul s’écarte du modèle de calcul en série existant et évolue vers un paradigme entièrement parallèle. Dans cette optique, nous nous engageons dans un labyrinthe (les ordinateurs d’aujourd’hui exploreraient un chemin) et, sur échec, nous essayons le chemin suivant jusqu’à ce que le centre soit atteint. Le nouveau modèle de calcul prendrait toutes les variables et tous les chemins à la fois et viendrait à bout du labyrinthe en quelques secondes.

L’intelligence artificielle : terme générique qui comprend l’apprentissage machine, l’apprentissage en profondeur, les services cognitifs, etc. On peut dire qu’elle permet aux machines d’apprendre et d’avoir la capacité de reproduire une forme de savoir humain. Ces propriétés s’appuient sur des modèles mathématiques très complexes qui utilisent d’énormes volumes de données.

La robotique : les robots, soutenus par l’IA, ont la capacité d’effectuer des tâches répétitives que les humains ne veulent plus faire. Nous avons commencé à en voir des exemples avec les robots de Boston Dynamics qui se mettent à livrer des colis dans des véhicules autonomes.

La chaîne de blocs : il s’agit d’une base de données distribuée ouverte. Elle permet de réaliser des transactions, des contrats et des échanges monétaires avec de nouvelles monnaies (ex. : bitcoins). Elle constitue l’épine dorsale du chiffrement et du système de reproduction derrière les nouvelles cryptomonnaies.

Que se produit-il si l’on combine l’apprentissage machine et la vitesse de calcul quantique?

L’une des craintes actuelles au sujet des modèles d’IA est qu’il s’agit principalement de boîtes noires. Les modèles les plus précis sont également les plus complexes; les plus simples sont sujets aux erreurs. Comment justifie-t-on puis applique-t-on ces modèles éminemment complexes et précis pour offrir des services au public ou pour prendre des décisions qui touchent des citoyens, des patients ou n’importe qui?

À l’heure actuelle, nous avons encore beaucoup de mal à comprendre ces modèles. Ils peuvent servir à poser un diagnostic médical, à réaliser une analyse de sentiments ou à fournir une recommandation de placement pour votre portefeuille. Ce faisant, comment arriverons-nous à suivre une fois que ces modèles se transformeront en de puissants modèles quantiques?

Ils ne seront plus limités par le calcul en série. Ils pourraient engloutir toutes les connaissances que vous avez accumulées sur la vie de votre patient en quelques secondes. Le problème, c’est qu’il leur faudrait plus de temps pour expliquer le raisonnement derrière toute solution que pour effectuer la mise en œuvre proprement dite.

Exemple typique :

Dans le podcast de Microsoft Research « Making Intelligence Intelligible » (Rendre l’intelligence intelligible) avec le Dr Rich Caruana, un modèle a été créé afin de mesurer les risques pour un patient de succomber à une pneumonie. Le modèle le plus précis n’a jamais été déployé dans le milieu de la santé parce que les chercheurs ont réalisé que la boîte noire pouvait être biaisée. Ils ont découvert plus tard que le modèle fondé sur des données déterminait que si vous étiez asthmatique, vous courriez moins de risques de mourir d’une pneumonie; conséquemment, l’asthme était une bonne chose. La raison derrière cela n’avait rien à voir avec les données sur les patients, mais avec les interactions réelles. Les patients asthmatiques sont plus conscients de leur respiration et ressentent un changement immédiatement. Ils sont habituellement vite admis à l’hôpital et traités d’abord en raison de leur état connu. Ils reçoivent également un traitement plus agressif pour s’assurer que leur état ne se détériore pas. En conséquence, ils sont moins susceptibles de mourir d’une pneumonie. Et chacun d’entre nous peut convenir que ce n’est pas un avantage d’être asthmatique. Mais il a fallu beaucoup de temps à l’équipe de recherche pour découvrir cela de même que d’autres défauts dans le modèle.

Dr. Rich Caruana, Microsoft Research Podcast

Qu’arrive-t-il lorsque nos modèles se composent de millions de couches? Un humain aura-t-il assez d’une vie entière pour analyser le choix fait par une machine? Qu’en sera-t-il s’ils font 10 000 choix à l’heure? Qu’est-ce qui rendra ces modèles imputables ou responsables?

Quelle est la prochaine étape? Devons-nous simplement faire confiance à notre créativité pour faire ce qui nous paraît juste?

Et si un robot était soutenu par une IA ayant appris en mode quantique?

Combien de temps faudra-t-il alors à un robot qui pourrait apprendre à cette vitesse pour nous voir comme simplement plus qu’une sous-race ou une forme de vie inférieure?

Si vous êtes en mesure d’analyser en quelques minutes tous les résultats potentiels d’un enjeu ou de résoudre un problème qui prendrait à des humains des jours, des semaines, voire des années, alors que devient votre évaluation de ces êtres?

Et si le cryptage devenait désuet et pouvait être cassé?

Considérons les suivants :

· toutes les communications HTTP sécurisées

· tous les chiffrements de mot de passe

· tous les chiffrements de stockage sur disque

· tous les canaux de communication sécurisés (ex. : TLS)

· toutes les sauvegardes sécurisées

Nommez-les!

Théoriquement, un ordinateur quantique suffisamment puissant pourrait décrypter toutes ces clés de chiffrement en quelques minutes.

Et donc?

Comment nous assurerons-nous que nos données demeurent confidentielles et que la protection de la vie privée demeure pertinente après l’éclosion de ces événements qui révolutionnent les TI?

Quand la nouvelle technologie rend les autres canaux désuets

Il faut se rappeler que tout le modèle de la chaîne de blocs est basé sur le chiffrement. À l’ère de l’informatique quantique, le chiffrement doit être complètement repensé et possiblement abandonné au profit d’un meilleur paradigme.

Qu’advient-il alors de la chaîne de blocs? Empruntons-nous une route qui aboutit deux kilomètres plus loin à un cul-de-sac?

Le bon côté des choses…

Comparativement aux événements technologiques révolutionnaires passés, certaines idées sont mises de l’avant pour faire en sorte que nous ayons des accords (Déclaration de Montréal pour un développement responsable de l’intelligence artificielle et Lignes directrices éthiques sur l’IA à venir de la Commission européenne) pouvant aider, telle une boussole morale, quant à ce que nous devrions et ne devrions pas faire avec des technologies comme l’intelligence artificielle. On trouve également, grâce à M. Satya Nadella, des fabricants de logiciels plus socialement conscients qui croient et militent de manière proactive auprès des gouvernements pour mettre en œuvre une Convention de Genève numérique afin de garantir que les utilisateurs finaux sont protégés et que les pays ne se livreront pas activement à des cyberattaques les uns contre les autres.

read original article at https://medium.com/@indominus/quy-a-t-il-de-plus-alarmant-que-la-perspective-d-une-fin-de-l-humanit%C3%A9-provoqu%C3%A9e-par-l-ia-et-les-7eefafd6533?source=rss——artificial_intelligence-5