We believe, ils assistent

>>intro de sujet piquée sur InternetActu, un article de Hubert Guillaud>>

 l’internet change la façon dont nous décidons

Pour le physicien Daniel Hillis, le réel impact de l’internet a été de changer la façon dont nous prenons des décisions. En permettant à des systèmes complexes de s’interopérer, de plus en plus, ce ne sont pas des êtres humains qui décident, mais un réseau adaptatif d’humains et de machines enchevêtrées. “Désormais, la programmation consiste à relier ensemble des systèmes complexes, sans comprendre exactement comment ils fonctionnent”, précise-t-il en montrant comment nos systèmes désormais se branchent sur d’autres données que les concepteurs du système ne maîtrisent pas. “Si nous l’avons créé, nous ne l’avons pas vraiment conçu. L’internet évolue. Notre relation au réseau est similaire à notre relation à notre écosystème biologique. Nous en sommes codépendants, et pas entièrement maîtres.”

Nous avons incarné notre rationalité dans nos machines et leur avons délégué nombre de nos choix et de ce fait nous avons créé un monde au-delà de notre propre compréhension. Ce siècle commence avec une note d’incertitude. Nous nous apprêtons à vivre une crise financière causée par la mauvaise conception informatique des risques de notre système bancaire, nous débattons du changement climatique autour de ce que les ordinateurs prédisent des données. Nous avons lié nos destinées, pas seulement entre nous tout autour du monde, mais à nos technologies. Si le thème des Lumières était l’indépendance, notre propre thème est l’interdépendance. Nous sommes maintenant tous reliés, les humains et les machines. Bienvenue à l’aube de l’intrication.

> fin de l’intro H.Guillaud >>

We believe, ils assistent

De la même manière qu’on a cru aux esprits, aux dieux, à Dieu, en la science expérimentale, l’homme du XXIème siècle croit dans les algorithmes. On croit aujourd’hui en l’algorithmie. On croit en la science du calcul et de la sélection par critères prédéfinis, à la modélisation informatique, aux mathématiques et à leurs rigides et incorruptibles lois…

Les algorithmes nous aident et nous assistent dans une multitude de tâches quotidiennes :
Ils nous disent que lire (moteurs de recherches), que regarder, qu’acheter ….
Ils nous disent quel film va nous plaire, quelle musique nous fait danser, quel porno nous excite.
Ils sélectionnent notre partenaire sur les sites de rencontres, ils évaluent nos chances de succès conjugal. Ils nous orientent vers une formation qualifiante. …
Ils nous indiquent quel chemin emprunter en voiture,  ils conduisent même notre voiture et nous mènent à bon port.

800px-Signature_Analyst_Assessment_of_DCA Chicago, les programmes informatiques brassant des masses de données externes prévoient l’heure et l’endroit où les crimes ont le plus de chance de se produire, ils profilent et repèrent les individus dangereux sur les réseaux sociaux et transmettent aussi sec leurs données bancaires aux autorités : ils garantissent notre sécurité. Sécurité sanitaire également puisqu’ils seraient à même d’alerter sur les épidémies avant même l’OMS …. Ils annoncent votre grossesse avant que vous ne fassiez le test.
Que manger, que boire, combien de calories ingérer, combien de pas à faire encore pour les éliminer. Ils m’aident à me maintenir en bonne santé, à me sentir bien… Je leur délègue ce type de réflexions …

Ce sont les algorithmes qui sélectionnent le bon candidat pour le bon boulot. Ils trouvent l’offre qui correspond le mieux à la demande.
Ils garantissent la majorité des échanges monétaires quotidiens. Ils organisent de manière optimale note travail, notre chômage, notre insertion.

Depuis une dizaine d’années nous déléguons une part croissante de nos décisions personnelles à ces programmes qui brassent des multitudes de données (datas). Ainsi, au niveau microscopique de ma vie personnelle et quotidienne, je pourrais encore m’étonner que Facebook manipule l’ordre de présentation des contenus de mes amis selon ce que le site pense savoir de moi. Et pourtant, si j’aime le foot, FB le sait et mets les infos concernant les matchs en haut de ma timeline, même s’il ne s’agit pas de l’info la plus fraîche …. Les algorithmes de FB brassent des données, repèrent des « schémas » comportementaux ou statistiques et vous soumettent, vous conseillent, vous suggèrent, vous proposent.

Image5Libre à vous de cliquer ou pas. Mais l’influence et la puissance de l’algorithme façonne déjà notre monde, notre actualité, notre façon de voir tout cela et de l’interpréter. Ces programmes changent déjà profondément la vie personnelle (pour les personnes qui ne voient pas exactement ce qu’est Facebook aujourd’hui, ne vous sentez pas sauvés pour autant, pensez à Google qui vous soumet des résultats, pensez à votre GPS qui vous propose une route, pensez aux publicités sur votre téléphone portable, …).

Au point de vue macro, c’est-à-dire au niveau d’une population, les algorithmes peuvent se nourrir de millions de données personnelles anonymisées et des bases de données structurelles telles que les horaires de bus, les chiffres de fréquentation d’une autoroute, les résultats de la collecte de déchets de votre commune, etc. (ce que l’on appelle les données brutes)

Fort de ces millions de données insignifiantes seules mais significatives lorsqu’elles sont mises en relation, les algos deviennent prédictifs. (par exemple, la SNCF développe une application pour prédire quels trains ont le plus de chances d’être bondés et vous suggère donc de prendre le suivant. Ce type d’application tient compte de votre âge, de votre situation géographique, des horaires de bus, du nombre de bureaux ou d’écoles dans votre quartier, etc.). Plus trivial aujourd’hui mais peut-être plus politique demain, trois système de prédictions s’affrontaient l’an dernier à coup de pronostics sur les prochains gagnants à la cérémonies des Oscars ( cliquez ici, c’est très bien fait). Lors de l’élection d’Obama en 2012, la prédiction s’était révélée remarquablement précise. Le choix avait été anticipé … De là à penser « suggérer » le président à l’avance … C’est vrai, pourquoi se déplacer le jour du vote si on connait déjà l’avis de la majorité ?

 

L’évolution de l’intelligence artificielle inquiète

Mais alors, au loup, au loup ! Brûlons ces puces électroniques qui nous grattent et abandonnons ces programmes envahissants !!!

Pas si vite. Ces programmes nous assistent dans nos tâches quotidiennes et nous libèrent ainsi du temps pour faire autre chose. C’est aussi du confort….. En véritable devins informatiques, ces programmes nous promettent un doux futur où l’on serait débarrassé des contingences futiles et rébarbatives de nos choix d’actions. Ça pourrait se révéler très agréable ….

D’ailleurs, ce futur, ils pourraient le composer à votre goût… Au rythme soutenu de l’innovation informatique, on peut facilement imaginer pour demain un ordinateur personnel qui mêlerait des bouts de films, histoires, mythes, récits et actualités afin de vous composer selon un storytelling que vous appréciez, un film inédit et unique, un reportage incroyable, un monde imaginaire taillé pour vous…. La machine serait alors également celle qui nourrirait votre imaginaire, notre imaginaire… Douceur tranquille du paradis promis par l’assistance numérique…

Un cerveau collectif décentré sur le réseau ? Là, ça devient franchement effrayant ! Serons-nous totalement colonisés par nos propres assistants ? Les « machines qui pensent et apprennent » pourraient-elles dépasser en influence (et en détermination ?) la somme de nos pensées et actions humaines devenant ainsi en quelque sorte notre nouveau « maître » ? Ces machines mettent-elles en danger l’humanité ?

C’est en tout cas la question que se posent en ce début d’année 2015, les plus éminents spécialistes de l’ingénierie informatique (Que pensez-vous des machines qui pensent ?) Qui dans leur inquiétude traduisent tout de même une grande foi dans le potentiel de ces technologies.

Dans une lettre ouverte récente, un collectif de savants s’interroge et s’inquiète :

[ « «Il existe désormais un large consensus selon lequel les recherches dans l’intelligence artificielle continuent à progresser et que l’impact sur la société va probablement s’accroître», estiment-ils, citant la possibilité «d’éradiquer des maladies et la pauvreté».

«Étant donné le grand potentiel de l’intelligence artificielle il est important d’étudier comment la société peut profiter de ses bienfaits, mais aussi comment éviter ses pièges», insistent-ils. ]

La question de la singularité est posée depuis quelques années avec de plus en plus d’insistance. Mais il faut raison garder : tout comme les précédents modèles de représentation du monde (les croyances animistes, la science chimiste ou mathématique, la relativité restreinte, …) ou d’analyse de celui-ci (analyses économiques, projections statistiques, météorologiques, philosophiques, …), la science algorithmique se base sur l’analyse et l’anticipation de sujets humains. Et elle a des mises en applications fort concrètes. Elle tente à l’imitation de nos comportements et raisonnements humains. Et nous, humains sommes tous différents et faillibles. Le risque de voir une intelligence parfaite à nos yeux se trouve donc logiquement évacué. Pour être précis, précisons que les éminents tireurs d’alarme évoqués plus haut parlent également d’une IA (Intelligence Artificielle) qui nous serait inconnue, que l’on ne reconnaitrait pas.
Ensuite, le réel est intrinsèquement chaotique, imprévisible, trop complexe que pour éviter les erreurs et particularités de l’univers…. La promesse ne pourra donc pas être tenue et notre béatification/anéantissement ne se produira sans doute jamais dans ce monde, fut-il décrit et décortiqué par une armée de calculateurs.

Et enfin, dans le cas où une ou des machines poseraient de réels problèmes, il suffirait de les débrancher  : off.

Il n’empêche, aujourd’hui, la question d’une relation personnelle et collective (donc sociale, sociétale) aux algorithmes (écrits dans un code ouvert ou propriétaire) est posée.

Dans ce redéploiement digital du champ des possibles, chacun (les états, les entreprises, les associations et les individus) a une responsabilité : la vigilance. Tout particulièrement sur le plan des droits humains. Il semble paradoxal que nos droits se voient globalement rognés ou mis en danger par l’existence d’un « monde numérique » que nous co-créons un peu plus chaque jour de manière immatérielle et décentralisée. Mais finalement, le droit, comme à peu près tous les aspects de notre vie, se trouvent impactés par la vie des réseaux.

Cette inquiétude qui nous étreint aujourd’hui face aux technologies développées doit nous rappeler qu’il existe des enjeux bien présents dans ce champ : l’ouverture et la diffusion des données publiques, la nature ouverte ou fermée des programmes qui interagissent dans la sphère sociale-sociétale, la nature et le destinataire des données que NOUS publions actuellement, la forme que prend la notion de « vie privée » et la législation renouvelée qui l’accompagne.

Quant à la possibilité de voir émerger de nos machines une « singularité » destructrice, elle nous apparaît aujourd’hui comme un mythe en pleine construction. Et l’on sait qu’il y a des mythes qui peuvent être fondateurs.

B.Fostier

 

 Quelques lectures technico-paranoïaques :

 

 

EXTRA

guE-marchand« Elle s’en va et elle revient, elle est comme une chanson populaire » ainsi commence l’article d’Internet Actu cité plus haut et qui aborde la question de la singularité comme un risque existentiel- ou pas.

Inspiré par cette petite phrase et mon amour de la chanson française, je vous propose donc la redécouverte de ce TUBE des années 80, un grand classique « Destinée : Guy Marchand ». (là je sens que je vais prendre des sarcasmes bien sentis au bureau …) Redécouverte et relecture via le prisme de cette problématique algorithmique discutée ci-avant.

Destinée XXIe par G.E-marchand(.com)

Destinée calculés
On était tous les deux
destinés évalués
A voir nos chemins se rencontrer
A s´aimer sans demander pourquoi
Toi et moi

Destinée Followé
Inutile de fuir ou de lutter
C´est écrit dans notre
Destinée jeux de données
Tu ne pourras pas y échapper
C´est gravé

{Refrain}
L´avenir,
Malgré nous doit toujours devenir
Tous nos désirs d´amour inespérés, imaginés, inavoués
Dans la vie
Aucun jour n´est pareil tu t´ennuies
Tu attends le soleil serveur impatiemment, éperdument, passionnément

Destinée reliké
Depuis longtemps j´avais
deviné contextualisé
Qu´à toi l´amour allait m´enchaîner
Quand je rencontrerais ton regard
Quelque part

Destinée envoyée
Où es-tu toi qui m´es
Destinée Conseillée?
Si jamais vous vous reconnaissez
Je voudrais vous entendre crier
M´appeler

{Au refrain}

Destinée, profilé
Encore une fois le cœur déchiré
Je suis un clown démaquillé
Le grand
rideau réseau vient de se baisser
Sur l´été

Destinée apairés
On était tous les deux destinés agrégés

A voir nos chemins se rencontrer
A s´aimer sans demander pourquoi
Toi et moi

{Au refrain}

Destinée profilés
On était tous les deux destinés évalués
A voir nos chemins se rencontrer
A s´aimer sans demander pourquoi
Toi et moi

Destinée Déchiffrés
Inutile de fuir ou de lutter
C´est écrit dans notre
destinée jeu de données
Tu ne pourras pas y échapper
C´est gravé

Destinée profilé
Encore une fois le cœur déchiré
Je suis un clown démaquillé
Le grand
rideau réseau vient de se baisser planter
Sur l´été
#FIN#