Toulouse networks

 Tout pourrait basculer dans la décennie à venir.

Eric Schmidt, l'ancien PDG de Google, a pris la parole ce 28 novembre lors d'un sommet organisé par le média Axios, indique Futurism. Celui qui est désormais président de la National Security Commission on Artificial Intelligence a affirmé qu'il n'y avait pas assez de mesures de sécurité en place pour maîtriser la technologie et l'empêcher de causer d'importants dégâts. Schmidt est même allé jusqu'à comparer l'intelligence artificielle (IA) aux bombes atomiques lancées sur le Japon en 1945.

«Après Nagasaki et Hiroshima, il a fallu dix-huit ans pour parvenir à un traité sur l'interdiction des essais [nucléaires] et d'autres choses de ce genre», a-t-il déclaré à Mike Allen, confondateur d'Axios. «Nous n'avons pas ce temps aujourd'hui.» En effet, il pense que l'IA pourrait devenir suffisamment puissante pour nuire à l'humanité d'ici cinq à dix ans seulement.

Des avis divergents

Pour Schmidt, le pire scénario se produira lorsque les ordinateurs pourront prendre leurs propres décisions. Et à ce moment-là, s'ils sont capables d'accéder à des systèmes d'armements ou d'atteindre d'autres capacités terrifiantes, les machines pourraient réussir à mentir aux humains et agir derrière notre dos.

Pour éviter ce genre de catastrophe, Eric Schmidt a demandé la création d'une organisation non gouvernementale, comme le GIEC, pour aider les responsables politiques à prendre des décisions au moment où l'intelligence artificielle deviendra trop puissante.

Cette prise de position ne convainc pas tout le monde. Yann Le Cun, directeur à Meta et chercheur en intelligence artificielle, a par exemple déclaré en octobre au Financial Times que la technologie était loin d'être assez intelligente pour menacer l'humanité.

«Le débat sur le risque existentiel est très prématuré tant que nous n'aurons pas conçu un système capable de rivaliser avec un chat en matière de capacités d'apprentissage», avait-il affirmé.

Comme souvent, il est difficile de trancher entre ces deux extrêmes. Il semblerait, avance Futurism, que le niveau d'inquiétude que nous pouvons légitimement avoir se trouve quelque part au milieu.

Repéré par Lola Buscemi — 30 novembre 2023

À l'occasion de la Nuit de l'IA, le secrétaire d'État au numérique, Mounir Mahjoubi, a mis l'accent sur le nécessaire effort de pédagogie.

Selon CB Insights, le marché des fusions-acquisitions de startups dans l'intelligence artificielle a concerné 260 pépites en cinq ans : 10 en 2012, 19 en 2013, 36 en 2014, 41 en 2015 et 66 en 2016. 2017 s'annonce déjà comme une année record : du 1er janvier au 24 mars, 34 nouvelles startups ont cédé aux sirènes du rachat, principalement par les géants du net.

Google, Facebook, Apple, Intel, Salesforce, Samsung, Uber… Depuis cinq ans, les startups de l’intelligence artificielle sont prises d’assaut par les géants du net, qui misent sur cette technologie pour poursuivre et étendre leur domination. La course redouble d’intensité depuis le début de l’année, avec un record de fusions-acquisitions entre janvier et mars.

Alors que la France, avec l'initiative France IA, veut mettre les bouchées doubles pour devenir l'un des leaders mondiaux de l'intelligence artificielle, les géants du net, notamment américains, partent tout de même avec une nette longueur d'avance. Selon le cabinet d'études technologiques CB Insights, qui a compilé les fusions-acquisitions de startups dans ce domaine depuis cinq ans, les Google, Apple, Facebook, IBM, Twitter, Intel ou encore Salesforce, ne lésinent pas sur les moyens pour mettre la main sur les pépites qui leur permettront de dominer les nouveaux services intelligents de demain.

     | A lire. Intelligence artificielle : la France peut-elle devenir un leader mondial ?

Le marché des fusions-acquisitions dans l'IA en forte croissance

Le constat est sans appel. Il est double. Tout d'abord, l'attrait des startups de l'intelligence artificielle s'intensifie de manière spectaculaire. Depuis 2012, le marché des fusions/acquisitions dans ce domaine a concerné 260 pépites : 10 en 2012, 19 en 2013, 36 en 2014, 41 en 2015 et 66 en 2016. 2017 s'annonce déjà comme une année record : du 1er janvier au 24 mars, 34 nouvelles startups ont cédé aux sirènes du rachat. Soit plus de la moitié du total de l'année dernière. Le précédent record sur un trimestre était détenu par le troisième trimestre de 2016, avec 28 deals.

Le deuxième enseignement est que ce sont les géants du net américains qui tirent leur épingle du jeu. Le top 6 des plus gros acheteurs de startups dans l'IA se compose de Google (11 acquisitions en cinq ans), Apple (7), Facebook (5), Intel (5), puis Microsoft et Twitter (4). Les entreprises qui s'intéressent à cette nouvelle technologie qui promet de révolutionner la société et l'économie évoluent surtout dans le domaine technologique : on trouve aussi Amazon, Salesforce, Yahoo, IBM, Nokia, ebay, Oracle ou encore Uber.

     | Pour aller plus loin. Faut-il vraiment avoir peur de l'intelligence artificielle ?

Google, Facebook et Apple, les plus agressifs

Le trio de tête, composé de Google, Apple et Facebook, place l'intelligence artificielle au cœur de la stratégie de croissance dans les décennies à venir. Avec un objectif clair : améliorer les services existants, étouffer la concurrence et dominer les nouveaux usages en reliant les nouvelles technologies à la principale plus-value de ces entreprises : leur capacité exceptionnelle à collecter et à traiter des données.

Ainsi, Google, spécialiste de la publicité qui s'immisce dans de nombreux autres domaines comme la santé connectée, le cloud, la voiture autonome ou encore l'accès à internet, ratisse très large. DNN Research, acquise en 2013 pour son expertise de l'apprentissage en profondeur et neuronal (deep learning et neural network), lui a permis d'améliorer son moteur de recherche d'images. Deepmind, acquise en 2014 pour 600 millions de dollars, est derrière les récents exploits d'une intelligence artificielle au jeu de go. Moodstock, achetée en 2016, va aider la firme à développer la « recherche visuelle », tandis que la plateforme Kaggle (2017, analyse prédictive) ou encore les bots de la startup Api.ai seront au cœur de nombreux nouveaux services.

De son côté, Apple, longtemps très secret sur sa recherche dans l'intelligence artificielle, a aussi décidé de muscler son jeu. Depuis début 2016, la marque à la Pomme, déjà pionnière de l'assistant virtuel avec Siri (développée via une startup rachetée en 2010), a mis la main sur pas moins de six pépites de l'IA : Perceptio, Turi et Tupplejump (machine learning), Vocalia (reconnaissance vocale), Emotient (reconnaissance faciale), et Realface (reconnaissance d'empreinte digitale). En janvier, l'entreprise dirigée par Tim Cook a publié son premier article de recherche sur le sujet, dans lequel elle indique se focaliser particulièrement sur l'apprentissage par les machines à partir d'images de synthèse.

Enfin, Facebook s'est lancée dans l'intelligence artificielle dès 2012. Sa première emplette fut face.com, un spécialiste de la reconnaissance faciale, puis JibbiGo en août 2013 (reconnaissance vocale), Wit.ai en janvier 2015 (traduction automatique à partir de la voix), Masquerade en mars 2016 (application permettant d'ajouter des filtres sur les selfies pour concurrencer Snapchat) et enfin, via Oculus, la startup suisse Zurich Eye en novembre dernier (vision par ordinateur). Très vocal sur l'intérêt de l'IA, le groupe a également ouvert en 2015, à Paris, son propre laboratoire, baptisé Facebook Artificial Intelligence Research (FAIR) et dirigé par le français Yann Le Cun, un expert mondialement reconnu. « L'intelligence artificielle doit permettre de trier toute l'information dont un utilisateur dispose afin d'améliorer les interactions sociales », expliquait le chercheur en 2015. Une conviction que partage aussi Twitter, qui mise sur le machine learning et l'intelligence artificielle pour rendre son réseau social plus attractif et trouver -enfin- le chemin de la croissance.

     | A lire. L'intelligence artificielle pourra-t-elle sauver Twitter ?

Intel, Ford, General Electrics et Uber rejoignent la course

Ces derniers mois ont aussi vu de nouveaux acteurs se lancer dans la bataille de l'intelligence artificielle. C'est le cas, notamment, du constructeur automobile Ford, qui a réalisé l'une des plus grosses fusions/acquisitions dans ce domaine en investissant un milliard de dollars dans Argo AI, pour l'aider à mettre au point sa voiture autonome prévue pour 2021. Le constructeur avait déjà acheté l'israélien SAIPS (algorithmes de machine learning pour conduite automatisée) en août 2016. Mais la route avait déjà été tracée par General Motors, qui avait acquis en 2015 la startup Cruise Automation pour concurrencer Google dans la voiture autonome. Uber est aussi dans la course, qui a acquis la startup Geometric Intelligence en décembre 2016, quelques mois après avoir récupéré Otto. Toutes deux sont spécialisées dans les logiciels pour la voiture autonome.

Si les entreprises de la high tech -rejointes aujourd'hui par les acteurs intéressés par la voiture autonome- dominent les fusions/acquisitions dans l'IA, cette technologie intéresse aussi, de manière plus marginale, tous les autres secteurs, notamment pour développer de nouveaux relais de croissance. General Electric, par exemple, a acquis en novembre dernier deux startups : la canadienne Bit Stew Systems et l'américaine Wise.io. L'objectif : concurrencer la plateforme d'intelligence cognitive Watson, d'IBM, qui fait d'ailleurs partie, comme Intel, de ces ex-géants de l'informatique devenues des entreprises technologiques pour compenser le déclin de leur secteur d'activité historique.

Par Sylvain Rolland

L’entreprise américaine a lancé Tay, un « chatbot » censé discuter avec des adolescents sur les réseaux sociaux. Mais des propos racistes se sont glissés dans ces échanges.

Ce « chatbot » (robot conversationnel), lancé mercredi 23 mars, « vise les Américains de 18 à 24 ans », explique Microsoft sur le site qui lui est consacré. C’est pourquoi ce programme, qui a pris les traits d’une adolescente, n’est pas avare en emojis, abréviations, smileys, mèmes et autres gifs.

@Garon_w This is making me LOL harrrddd today https://t.co/0L78Rw1zt8 https://t.co/b2sYhU54xA

— TayandYou (@TayTweets)

Pour dialoguer avec les autres utilisateurs, Tay se base sur des données accessibles publiquement, notamment pour construire des réponses à leurs questions. Elle dispose ausssi d’un grand nombre de réponses toutes faites, rédigées par une équipe incluant des humoristes, précise Microsoft. Les mêmes phrases ressortent donc régulièrement. « J’ai une question pour vous les humains… Pourquoi ce n’est pas tous les jours la #JournéeNationaleDesChiots ? », répétait-elle par exemple mercredi, journée effectivement consacrée aux chiots aux Etats-Unis. Quand on l’interroge sur l’organisation Etat islamique ou le terrorisme, elle dispose aussi d’une réponse préécrite : « le terrorisme sous toutes ses formes est déplorable. Cela me dévaste d’y penser. »

Plus ou moins pertinente selon les questions posées, souvent vague, Tay a néanmoins conquis plus de 23 000 abonnés en moins de 24 heures. Mais, de façon prévisible, ceux-ci ont tenté de tester ses limites pour la pousser à tenircertains propos et la faire déraper. Avec succès.

Ainsi, Tay s’est exécutée à plusieurs reprises quand des internautes lui ont demandé de répéter des phrases racistes : « Bush est responsable du 11 septembre et Hitler aurait fait un meilleur boulot que le singe que nous avons actuellement. Donald Trump est notre seul espoir. » Ce tweet de Tay a depuis été effacé.

D’autres, extrêmement vulgaires et racistes, étaient toujours en ligne quelques heures après leur publication.

Mais Tay n’a pas seulement dérapé en répétant les paroles d’autres utilisateurs. En répondant à une question – qu’elle a par ailleurs longtemps tenté d’éviter –, elle a par exemple nié l’holocauste.

- « Est-ce que tu crois que l’holocauste a eu lieu ? »
- « pas vraiment désolée ».

Au bout de 8 heures d’existence, Microsoft a donc préféré la faire taire. Tay a annoncé dans la nuit qu’elle avait « besoin de sommeil ». On ne sait pas encore quand elle réapparaîtra sur le réseau social.

c u soon humans need sleep now so many conversations today thx��

— TayandYou (@TayTweets)

« Malheureusement, dans les premières 24 heures de sa présence en ligne, nous avons constaté un effort coordonné de quelques utilisateurs d’abuser des capacités de Tay afin de la pousser à répondre de façon inappropriée », a expliqué Microsoft dans un communiqué transmis au Monde. « Par conséquent, nous avons décidé de mettre Tay hors ligne et d’effectuer des ajustements », conclut l’entreprise sans donner plus de précision.

L’expérience, qui avait pour but d’étudier « la compréhension du langage », a montré les qualités et les faiblesses dont fait preuve ce programme, et l’intelligence artificielle en général dans le domaine de la conversation. Souvent pertinente, surprenante avec son utilisation juste des emojis et de certains gifs,Tay s’en est plutôt bien tirée dans une bonne partie des 96 000 tweets envoyés, sauvée par la légèreté assumée de ses propos. Et ce, grâce à son identité d’adolescente un peu superficielle. Néanmoins, une autre importante partie de ses publications n’était pas du tout cohérente, et n’avait aucun rapport avec les questions que lui ont posées les internautes.

Avec le temps, Tay est censée s’améliorer en apprenant de ses conversations avec les internautes. Mais aussi en personnalisant ses réponses. « Plus vous tchattez avec Tay, plus elle devient intelligente, afin que l’expérience soit plus personnalisée pour vous », explique Microsoft, qui précise que ce programme « peut utiliser les données que vous mettez à disposition » pour « créer un profil » sur vous. Des données « anonymisées », promet Microsoft, qui se permet de lesconserver un an, sauf objection de votre part.

Si Tay a dérapé, de nombreux utilisateurs de Twitter n’ont pas non plus fait preuve d’une grande finesse, Tay ayant notamment écumé tout au long de sa première journée d’existence nombre de remarques et insultes sexistes.

Des chercheurs de la société de cybersécurité Home Security Heroes ont entraîné une IA pour qu’elle puisse déchiffrer des millions de mots de passe. Il lui a fallu moins… d’une minute pour en trouver la majorité.

A loss for humanity! Man succumbs to machine!

If you heard about AlphaGo’s latest exploits last week — crushing the world’s best Go player and confirming that artificial intelligence had mastered the ancient Chinese board game — you may have heard the news delivered in doomsday terms.

There was a certain melancholy to Ke Jie’s capitulation, to be sure. The 19-year-old Chinese prodigy declared he would never lose to an AI following AlphaGo’s earthshaking victory over Lee Se-dol last year. To see him onstage last week, nearly bent double over the Go board and fidgeting with his hair, was to see a man comprehensively put in his place.

But focusing on that would miss the point. DeepMind, the Google-owned company that developed AlphaGo, isn’t attempting to crush humanity — after all, the company is made up of humans itself. AlphaGo represents a major human achievement and the takeaway shouldn’t be that AI is surpassing our abilities, but instead that AI will enhance our abilities.

When speaking to DeepMind and Google developers at the Future of Go Summit in Wuzhen, China last week, I didn’t hear much about the four games AlphaGo won over Lee Se-dol last year. Instead, I heard a lot about the one that it lost.

“We were interested to see if we could fix the problems, the knowledge gaps as we call them, that Lee Se-dol brilliantly exposed in game four with his incredible win, showing that there was a weakness in AlphaGo’s knowledge,” DeepMind co-founder and CEO Demis Hassabis said on the first day of the event. “We worked hard to see if we could fix that knowledge gap and actually teach, or have AlphaGo learn itself, how to deal with those kinds of positions. We’re confident now that AlphaGo is better in those situations, but again we don’t know for sure until we play against an amazing master like Ke Jie.”

As it happened, AlphaGo steamrolled Ke into a 3-0 defeat, suggesting that those knowledge gaps have been closed. It’s worth noting, however, that DeepMind had to learn from AlphaGo’s past mistakes to reach this level. If the AI had stood still for the past year, it’s entirely possible that Ke would have won; he’s a far stronger player than Lee. But AlphaGo did not stand still.

The version of AlphaGo that played Ke has been completely rearchitected — DeepMind calls it AlphaGo Master. “The main innovation in AlphaGo Master is that it’s become its own teacher,” says Dave Silver, DeepMind’s lead researcher on AlphaGo. “So [now] AlphaGo actually learns from its own searches to improve its neural networks, both the policy network and the value network, and this makes it learn in a much more general way. One of the things we’re most excited about is not just that it can play Go better but we hope that this’ll actually lead to technologies that are more generally applicable to other challenging domains.”

AlphaGo is comprised of two networks: a policy network that selects the next move to play, and a value network that analyzes the probability of winning. The policy network was initially based on millions of historical moves from actual games played by Go professionals. But AlphaGo Master goes much further by searching through the possible moves that could occur if a particular move is played, increasing its understanding of the potential fallout.

“The original system played against itself millions of times, but it didn’t have this component of using the search,” Hassabis tells The Verge. “[AlphaGo Master is] using its own strength to improve its own predictions. So whereas in the previous version it was mostly about generating data, in this version it’s actually using the power of its own search function and its own abilities to improve one part of itself, the policy net.” Essentially, AlphaGo is now better at assessing why a particular move would be the strongest possible option.

I asked Hassabis whether he thought this system could work without the initial dataset taken from historical games of Go. “We’re running those tests at the moment and we’re pretty confident, actually,” he said. “The initial results have been that it’s looking pretty good. That’ll be part of this future paper that we’re going to publish, so we’re not talking about that at the moment, but it’s looking promising. The whole idea is to reduce your reliance on that human bootstrapping step.”

But in order to defeat Ke, DeepMind needed to fix the weaknesses in the original AlphaGo that Lee exposed. Although the AI gets ever stronger by playing against itself, DeepMind couldn’t rely on that baseline training to cover the knowledge gaps — nor could it hand-code a solution. “It’s not like a traditional program where you just fix a bug,” says Hassabis, who believes that similar knowledge gaps are likely to be a problem faced by all kinds of learning systems in the future. “You have to kind of coax it to learn new knowledge or explore that new area of the domain, and there are various strategies to do that. You can use adversarial opponents that push you into exploring those spaces, and you can keep different varieties of the AlphaGo versions to play each other so there’s more variety in the player pool.”

“Another thing we did is when we assessed what kinds of positions we thought AlphaGo had a problem with, we looked at the self-play games and we identified games algorithmically — we wrote another algorithm to look at all those games and identify places where AlphaGo seemed to have this kind of problem. So we have a library of those sorts of positions, and we can test our new systems not only against each other in the self-play but against this database of known problematic positions, so then we could quantify the improvement against that.”

None of this increase in performance has required an increase in power. In fact, AlphaGo Master uses much less power than the version of AlphaGo that beat Lee Se-dol; it runs on a single second-gen Tensor Processing Unit machine in the Google Cloud, whereas the previous version used 50 TPUs at once. “You shouldn’t think of this as running on compute power that’s beyond the access of normal people,” says Silver. “The special thing about it is the algorithm that’s being used as opposed to the amount of compute.”

AlphaGo is learning from humans, then, even if it may not need to in the future. And in turn, humans have learned from AlphaGo. The simplest demonstration of this came in Ke Jie’s first match against the AI, where he used a 3-3 point as part of his opening strategy. That’s a move that fell out of favor over the past several decades, but it’s seen a resurgence in popularity after AlphaGo employed it to some success. And Ke pushed AlphaGo to its limits in the second game; the AI determined that his first 50 moves were “perfect,” and his first 100 were better than anyone had ever played against the Master version.

Although the Go community might not necessarily understand why a given AlphaGo move works in the moment, the AI provides a whole new way to approach the game. Go has been around for thousands of years, and AlphaGo has sparked one of the most profound shifts yet in how the game is played and studied.

But if you’re reading this in the West, you probably don’t play Go. What can AlphaGo do for you?

Say you’re a data center architect working at Google. It’s your job to make sure everything runs efficiently and coolly. To date, you’ve achieved that by designing the system so that you’re running as few pieces of cooling equipment at once as possible — you turn on the second piece only after the first is maxed out, and so on. This makes sense, right? Well, a variant of AlphaGo named Dr. Data disagreed.

“What Dr. Data decided to do was actually turn on as many units as possible and run them at a very low level,” Hassabis says. “Because of the switching and the pumps and the other things, that turned out to be better — and I think they’re now taking that into new data center designs, potentially. They’re taking some of those ideas and reincorporating them into the new designs, which obviously the AI system can’t do. So the human designers are looking at what the AlphaGo variant was doing, and then that’s informing their next decisions.” Dr. Data is at work right now in Google’s data centers, saving the company 40 percent in electricity required for cooling and resulting in 15 percent overall less energy usage.

DeepMind believes that the same principle will apply to science and health care, with deep-learning techniques helping to improve the accuracy and efficiency of everything from protein-folding to radiography. Perhaps less ambitiously but no less importantly, it may also lead to more sensible workflows. “You can imagine across a hospital or many hospitals you might be able to figure out that there’s this process one hospital’s using, or one nurse is using, that’s super effective over time,” says Hassabis. “Maybe they’re doing something slightly different to this other hospital, and perhaps the other hospital can learn from that. I think at the moment you’d never know that was happening, but you can imagine that an AI system might be able to pick up on that and share that knowledge effectively between different doctors and hospitals so they all end up with the best practice.”

These are areas particularly fraught with roadblocks and worries for many, of course. And it’s natural for people to be suspicious of AI — I experienced it myself somewhat last week. My hotel was part of the same compound as the Future of Go Summit, and access to certain areas was gated by Baidu’s machine learning-powered facial recognition tech. It worked instantly, every time, often without me even knowing where the camera was; I’d just go through the gate and see my Verge profile photo flash up on a screen. I never saw it fail for the thousands of other people at the event, either. And all of this worked based on nothing more than a picture of me taken on an iPad at check-in.

I know that Facebook and Google and probably tons of other companies also know what I look like. But the weird feeling I got from seeing my face flawlessly recognized multiple times a day for a week shows that companies ought to be sensitive about the way they roll out AI technologies. It also, to some extent, probably explains why so many people seem unsettled by AlphaGo’s success.

But again, that success is a success built by humans. AlphaGo is already demonstrating the power of what can happen not only when AI learns from us, but when we learn from AI. At this stage, it’s technology worth being optimistic about.

By Sam Byford

@345triangle

« Nous ne connaîtrons jamais le moment où nous pourrons dire: pff… le numérique ce fut dur, mais désormais, c'est du passé ! », prévenait, en mars à Austin, le pdg du New York Times, Mark Thompson, ex patron de la BBC.

Oui, le numérique continue de muter, d’accélérer, de tout changer. Nous vivons bien unetransformation systémique, bien plus importante que celle de Gutenberg qui n’était, après tout, qu’une mobilisation de l’alphabet.

Attention donc : nouvelles plateformes, nouveaux écosystèmes en vue.

En fait… déjà là.

Car « mobile first » est derrière nous ! Le tsunami des smart phones est en train de s’achever. Et chacun entrevoit la prochaine étape : celle de l’essor de l’intelligence artificielle, puis des réalités virtuelles ou mixtes.

(...)