Le discours fracassant de John Carmack
Les cimetières sont remplis de sociétés qui n’ont pas compris les règles du jeu.
John Carmack vient de démissionner de Meta. Il ne mâche pas ses mots dans sa lettre aux employés et je la cite dans son entier:
C'est la fin de ma décennie dans la réalité virtuelle.
J'ai des sentiments mitigés.
Quest 2 est presque exactement ce que je voulais voir depuis le début - matériel mobile, suivi de l'intérieur vers l'extérieur, streaming PC optionnel, écran 4k (ou presque), rentabilité. Malgré toutes les plaintes que j'ai à l'égard de notre logiciel, des millions de personnes en tirent toujours profit. Nous avons un bon produit. Il a du succès, et les produits qui ont du succès rendent le monde meilleur. Tout aurait pu aller un peu plus vite et mieux se passer si des décisions différentes avaient été prises, mais nous avons construit quelque chose d'assez proche de la bonne chose.
Le problème est notre efficacité.
Certains demanderont pourquoi je me préoccupe de la manière dont les progrès sont réalisés, du moment qu'ils le sont.
Si j’essayais d'influencer les autres, je dirais qu'une organisation qui n'a connu que l'inefficacité est mal préparée à l'inévitable concurrence et/ou aux restrictions budgétaires, mais en réalité, c'est la douleur plus personnelle de voir un taux d'utilisation des GPU de 5 % en production. Je suis offensé par cela.
[edit : J'étais un peu trop poétique ici, car plusieurs personnes ont manqué l'intention. En tant que spécialiste de l'optimisation des systèmes, je suis profondément attaché à l'efficacité. Lorsque vous travaillez dur à l'optimisation pendant la majeure partie de votre vie, voir quelque chose qui est gravement inefficace vous fait mal à l'âme. Je comparais l'observation des performances de notre organisation au fait de voir un chiffre tragiquement bas sur un outil de profilage].
Nous disposons d'une quantité ridicule de personnes et de ressources, mais nous nous auto-sabotons et gaspillons constamment nos efforts. Il n'y a pas moyen de l'édulcorer ; je pense que notre organisation fonctionne à la moitié de l'efficacité qui me rendrait heureux. Certains peuvent se moquer et prétendre que nous nous en sortons très bien, mais d'autres riront et diront "Moitié ? Ha ! Je suis au quart de l'efficacité !"
Cela a été une lutte pour moi. J'ai une voix aux plus hauts niveaux ici, alors il me semble que je devrais être capable de faire bouger les choses, mais je ne suis manifestement pas assez persuasif. Une bonne partie des choses dont je me plains finissent par tourner à mon avantage après un an ou deux et après que les preuves se soient accumulées, mais je n'ai jamais été capable de tuer les choses stupides avant qu'elles ne causent des dommages, ou de fixer une direction et de faire en sorte qu'une équipe s'y tienne. Je pense que mon influence à la marge a été positive, mais je n'ai jamais été un moteur essentiel.
J'aurais pu déménager à Menlo Park après l'acquisition d'Oculus et essayer de me battre avec des générations de dirigeants, mais j'étais occupé à programmer et j'ai supposé que je détesterais ça, que je serais mauvais et que je perdrais probablement de toute façon.
Assez de plaintes. Je me suis lassé du combat et j'ai ma propre startup à gérer, mais le combat peut encore être gagné ! La réalité virtuelle peut apporter de la valeur à la plupart des gens dans le monde, et aucune entreprise n'est mieux placée pour le faire que Meta. Il est peut-être possible d'y arriver en continuant à appliquer les pratiques actuelles, mais il y a beaucoup de place pour l'amélioration.
Prenez de meilleures décisions et “faites gaffe” à vos produits !
John Carmack n’emploie jamais le terme de métavers qui est une construction bureaucratique, un concept fumeux auquel il ne veut pas joindre son nom et sa réputation. Il s’intéresse à un produit concret qu’il cherche à faire adopter, en l’occurrence le casque de réalité virtuelle, pas à un écosystème ou une plate-forme (voir mon article Silicium). Cette lettre concerne Meta certes mais plus généralement, elle est une invitation pour l’industrie technologique à se repenser en profondeur. John Carmack est perçu par la Silicon Valley comme un visionnaire. En à peine un mois, il est le deuxième visionnaire, le premier étant Elon Musk, à remettre profondément en question le fonctionnement d’entreprises technologiques en vue. Et les deux, malgré un parcours très différent, ont des visions semblables sur les dysfonctionnements de la tech et la manière d’y remédier. Un visionnaire peut être discrédité, deux cela fait beaucoup. Cette lettre de démission risque de faire bouger les lignes…rapidement. C’est un signe d’espoir !
Le gaspillage
Elon Musk peut être considéré comme un ingénieur génial, généraliste passionné par la mécanique mais qui ne connaît rien à la substantifique moelle de la Silicon Valley: le code. Sa brutalité vis à vis des employés de Twitter peut paraître presque sacrilège dans ce temple de la technologie. Faire partir en deux temps, trois mouvements les deux tiers de l’effectif de cette société paraît fou…sauf que Twitter continue à fonctionner. John Carmack est lui un insider, un codeur reconnu parmi ses pairs, grâce à ses réalisations brillantes dans le domaine des jeux vidéo. Aussi, sa démission peut faire l’effet d’une bombe dans la profession. Il valide indirectement la stratégie dégagiste d’Elon Musk en mettant en exergue le gaspillage colossal d’une entreprise autrement plus profitable que Twitter, elle aussi spécialisée dans le code. Et si Meta est une cigale, pourquoi pas également Alphabet, Microsoft, Amazon et tous les sous-officiers en pertes, bref la quasi-intégralité de l’industrie ?
Revenons à Meta: le discours concerne probablement en grande partie la division Reality Labs dont John Carmack était consultant jusqu’à ces derniers jours, même si la lettre de démission reste ambiguë sur le périmètre du gaspillage. Les GPUs (puces graphiques) fonctionnent à 5% de leur capacité et le personnel entre le quart et la moitié de son potentiel. Meta peut dans cette division au moins réduire considérablement ses pertes ($10 milliards annuellement) sans pour autant sacrifier ses ambitions sur la réalité virtuelle. Cependant, il est important de considérer que John Carmack vient d’Oculus où il était CTO depuis 2013, avant l’acquisition de cette société de réalité virtuelle par Facebook. Sa culture est celle d’une petite société, marquée par la nécessité d’économiser des ressources et il semble bien dans son message distinguer Oculus des générations de dirigeants de Menlo Park (Facebook), habitués à l’opulence. Autrement dit, c’est toute la culture de Meta qu’il attaque, une société qui n’a jamais eu à se serrer la ceinture (dans le texte: une organisation qui n’a jamais connu l’efficacité).
Effectivement et depuis le Covid particulièrement, on observe une augmentation considérable des embauche et des dépenses d’investissements dans les serveurs. J’ai tenté de donner une explication pour les effectifs dans mon article Musk contre la Tech en résumant le dilemme des BigTech depuis 2020:
Effectif=avantage concurrentiel
Cette équation prend sa source dans la période Covid. Du jour au lendemain, l’économie a été transférée en ligne avec une double conséquence pour la tech:
Il lui fallait redimensionner ses effectifs à la hausse pour absorber un afflux de croissance quasi-certain
Au même moment, le travail passait également en ligne, donnant un pouvoir inédit aux meilleurs salariés. Ceux-ci devenaient une denrée rare qui pouvait se vendre au plus offrant dans le monde entier…
Le salarié devenait la star et la ressource à capter pour assoir son avantage concurrentiel (au même titre que dans le monde pré-internet, la maîtrise d’une matière première ou d’un emplacement était censé faire la différence). Le petit tableau suivant montre la croissance tant du chiffre d’affaires que des effectifs depuis le 1er trimestre 2020 pour les trois géants de la Tech:
Or John Carmack ne pointe pas seulement les sureffectifs mais aussi les dépenses d’investissement excessives de Meta, des GPUs utilisés à 5% de leurs capacités ! Le même tableau adapté aux dépenses d’investissement n’est pas plus brillant:
Où sont les effets d’échelle, réseaux, etc. ? Les faits donnent l’impression du contraire. Cette augmentation appelle une ou plusieurs explications complémentaires:
A partir du moment où une Big Tech embauche des développeurs, il faut des machines pour les occuper, d’où l’inflation des serveurs et centres de données.
Les Big Tech étant sans arrêt taxées pour pratiques monopolistiques, elles ont tendance à vouloir montrer qu’elles ne font pas des profits de type monopole et à cacher les gains en se lançant dans des aventures douteuses (le métavers pour Meta, Waymo ou Verily pour Alphabet…) De même leurs investissements permettent de montrer qu’elles n’exploitent pas une rente mais contribuent au futur de l’humanité.
Il y a une lutte de pouvoir entre Big Tech pour la préemption des ressources tant humaines que techniques. Big Tech=Big Berta. L’innovation a fait place à la lutte de pouvoir, les sociétés dominantes cherchant d’avantage à se protéger qu’à conquérir. Elles se battent les unes contre les autres à coup de moyens au lieu de penser au consommateur. Le résultat est la constitution de bureaucraties pour administrer la stratégie. John Carmack pointe particulièrement la division Reality Labs qui cherche, dans sa grande vision du métavers, à se positionner contre Apple en tentant de créer un écosystème à la “Android”. Plutôt Android que BlackBerry ! Mark Zuckerberg fabrique un casque pro élitiste très onéreux et gaspille ses moyens au lieu de les utiliser pour concevoir un casque abordable et léger, qui réponde au point fort de Facebook: la communication de masse.
La conception de l’innovation des Big Tech est de plus en plus celle d’un État. Ce dernier investit des ressources massives dans une idée et espère qu’il en sortira quelque chose. Les investissements dans la fusion nucléaire (ITER par exemple) en sont une illustration. Cependant l’Etat n’a pas les mêmes contraintes qu’une société: il dépend de contribuables dociles et non d’investisseurs regardants et de clients capricieux. C’est pourquoi il peut tenir dans la durée et innover même au prix d’un rendement à moyen terme faible. La société risque fort d’être rappelée à l’ordre par ses constituants, réduisant à néant ses tentatives d’innovation, lesquelles apparaîtront alors comme du gaspillage. Une société n’a pas les moyens d’innover comme un État; la première récession le lui rappellera cruellement.
Le manque d’innovation
Tout est dit dans l’admonestation de John Carmack: “faites gaffe à vos produits”. A force de faire de la stratégie on les néglige. John Carmack est un développeur dans l’âme qui code au plus près de la machine, pour économiser au maximum les ressources, viser toujours plus avec toujours moins. C’est pourquoi le gaspillage le rebute. L’entreprise n’innove pas comme un État, elle économise ses ressources pour les consacrer à des démarches créatives et à des réalisations concrètes qui ravissent les clients. Il est un admirateur de Shigeru Miyamito, le créateur de Super Mario Bros et de la légende de Zelda, deux jeux phares responsables du succès des consoles Nintendo. Derrière le succès de toutes les consoles Nintendo, généralement moins avancées techniquement que celles de ses concurrents Sony et Microsoft, il y a la qualité des jeux et et la créativité de Shigeru Myamoto. Ce dernier est avant tout proche du joueur. D’après Wikipedia:
Miyamoto, et Nintendo dans son ensemble, n'utilisent pas de groupes de discussion. Au lieu de cela, Miyamoto cherche à savoir si un jeu est amusant pour lui-même. Il précise, en citant l'exemple de la conception de la série Pokémon : " Et c'est là le but - ne pas faire quelque chose qui se vend, quelque chose de très populaire, mais aimer quelque chose, et faire quelque chose que nous, les créateurs, pouvons aimer. C'est le sentiment fondamental que nous devrions avoir en créant des jeux ". Miyamoto veut que les joueurs fassent l'expérience du kyokan ; il veut que " les joueurs ressentent dans le jeu ce que les développeurs ont ressenti eux-mêmes ".
Myamoto focalise ses efforts sur le plaisir de jouer, la raison d’être d’un jeu. En l’occurrence, la capacité d’interaction entre le joueur et le jeu est bien plus importante que l’intrigue ou le réalisme du graphisme (un jeu n’est pas un film). Pus généralement, la créativité l’emporte sur le déploiement de moyens, d’où son insistence sur de petites équipes de développement. John Carmack raisonne de même. Il est notamment l’inventeur de plusieurs techniques utilisées dans le graphisme des jeux vidéo. Puis en intégrant Oculus, il s’est passionné pour les casques de réalité virtuelle. Réalisant que cet univers était sous domination exclusive de Meta, sans l’aiguillon de la concurrence, il s’est mis progressivement au second plan avec un rôle de consultant à temps partiel, avant de démissionner récemment..
Force est de constater que le manque d’innovation ne concerne pas que Meta. Ce dernier, même s’il est le plus souvent en défense (Snap, TikTok, IOS 14) a quand même (merci John Carmack) lancé avec succès le Quest 2, un casque de réalité virtuelle qui a été vendu à au moins 15 millions d’exemplaires. Mais qu’en est-il d’Apple ? L’iPhone date de 2008, l’iPad de 2010, les AirPods de 2014, la Watch de 2015, le HomePod de 2018. Et depuis ? Des itérations des mêmes produits… Chez Amazon, les principaux piliers de l’innovation commencent à dater: la place de marché (2000), Prime (2006), AWS (2006), la publicité (2012). Parmi les produits secondaires, le Kindle date de 2000, Prime Video de 2006, les produits Echo de 2014, le Fire TV de 2014. Depuis, Amazon améliore ces produits. Quant à Google qui a été précurseur de l’IA générative avec DeepMind, il semble inerte (comme il l’a été avec le cloud) alors que de petites sociétés innovantes s’enhardissent à créer et proposer au public des produits finis qui ont un franc succès. Midjourney, Stable Diffusion et OpenAI occupent le terrain alors que Google s’interroge sur le risque de tels produits sur sa réputation. ChatGPT par exemple fait le buzz et sert de base via API à de nouveaux produits créés par des startup. Tout un écosystème peut se créer ainsi en dehors de Google. A quoi servent ses montagnes de puces ($25 milliards d’investissements en 2021, $24 milliards sur les neuf premiers mois 2022), si Google ne peut répondre à la demande des clients ? Pourquoi DeepMind qui a probablement la technologie la plus avancée en IA ne participe pas à la fête d’une manière ou d’une autre ?
En définitive, les BigTech finissent par s’adapter grâce à leur puissance de feu et leur nombre d’utilisateurs réguliers, mais avec deux ans de retard, ce que reconnaît et déplore John Carmack. En attendant, par manque de réactivité et peur des régulateurs toujours sur leurs basques, elles ont gaspillé leurs ressources dans de mauvaises directions. « Prenez de meilleures décisions »…
Accélération
Avoir les capacités techniques et humaines est une chose, trouver le bon modèle économique d’un produit, l’adéquation entre celui-ci et le marché en est une autre plus importante. Pendant que Google temporise, Midjourney et OpenAI s’essaient avec de vrais produits, réagissent aux besoins de leurs utilisateurs en temps réel pour les améliorer jusqu’à trouver le bon mix. Le processus va plus vite qu’avant grâce à l’aspect viral des réseaux sociaux, la possibilité de modifier les produits plus vite (logiciel) et la capacité mise à disposition par les opérateurs cloud. Les BigTech s’imaginent qu’il pourront copier tôt ou tard l’innovation et la diffuser rapidement à leur masse d’utilisateurs. C’est vrai quand l’innovation en question s’inscrit dans leur modèle économique existant, leur façon d’accrocher les utilisateurs et de les monétiser. C’était par exemple plus facile pour Facebook de contrer Snap ( réseau social construit sur les amis) que TikTok (réseau social construit sur l’algorithme). De même pour Google, ChatGPT peut constituer un challenge car il est un outil de création, pas de recherche. Facebook a minimisé la menace TikTok, pensant que les algorithmes ne remplaceraient pas les interactions amicales. Il ne faudrait pas que Google minimise la menace ChatGPT parce que les réponses sont souvent en dehors de la plaque. Un outil de création n’a pas les mêmes contraintes qu’un outil de recherche, l’erreur est “normale”. Google doit en quelque sorte se faire violence pour l’intégrer à son moteur de recherche ou lancer un concurrent qui pourrait à terme cannibaliser le moteur de recherche. Mais ChatGPT et d’autres vont s’améliorer vite et alors ? Le bel outil IA de Google, LaMDA sera-t-il à ChatGPT ce que Google cloud est à AWS ? Un challenger qui perd de l’argent année après année quand le numéro 1 est extrêmement profitable.
La menace se concrétise vraiment quand le produit IA devient une API, une sous-couche intégrée par des produits tiers, comme fonctionnalité complémentaire. Plus l’adoption est importante, plus la copie par une BigTech devient difficile. Or il est plus facile pour une petite société que pour une BigTech de concevoir et commercialiser surtout une API car ses clients ne voient pas cette société comme une menace pour leur business. On voit ce phénomène régulièrement dans le cloud où des API spécialisées ont réussi à s’imposer malgré les tentatives de copies des opérateurs cloud (MongoDB, Snowflake, CloudFlare, etc.). Aujourd’hui, tout va très vite: Google a le bagage technologique pour se battre mais il lui faudra aller vite. L’année 2023 sera décisive. La compétition est lancée et il sera impossible de la tuer dans l’œuf en avalant le compétiteur, autorités antitrust obligent. Cette stratégie était encore possible dans les années 2010, elle ne l’est plus aujourd’hui.
Un signe d’espoir
En janvier 2020, Ben Thompson, fondateur de Stratechery écrivait dans une de ses lettres titrée la fin du début:
Même si cela semble un peu hérétique : il n'y a peut-être pas de changement de paradigme significatif à l'horizon, ni le changement de génération qui l'accompagne. Et, dans la mesure où il y a des évolutions, il semble vraiment que les opérateurs historiques aient des avantages insurmontables : les hyperscalers du cloud sont les mieux placés pour gérer le torrent de données de l'Internet des objets, tandis que les nouveaux dispositifs d'E/S comme la réalité augmentée, les wearables ou la voix sont des extensions naturelles du téléphone.
En d'autres termes, les entreprises actuelles du cloud et du mobile - Amazon, Microsoft, Apple et Google - pourraient bien être les GM, Ford et Chrysler du XXIe siècle. L'ère des débuts de la technologie, où de nouveaux challengers se lançaient chaque année, est terminée ;
La perspective était peu réjouissante, les BigTech apparaissaient comme invulnérables, hormis aux amendes. Il n’en est rien heureusement. Il leur faut maintenant réapprendre à prendre des risques, tailler dans leur bureaucratie et fabriquer de nouveaux produits dans l’esprit d’une start up, sans regarder dans le rétroviseur pour y contempler l’ombre de leur puissance passée. De nouveaux challengers sont à leurs portes. L’IA générative provoque une secousse tellurique comme l’ont provoqué le PC ou le smartphone. Les BigTech ne sont pas hors jeu, mais vont devoir se réveiller vite. Le jeu est redistribué.
bonne semaine et bon bout d’an,
Hervé