Quels sont les impacts du départ de Sam Altman de OpenAI sur l'avenir de l'AGI?

L'impact du départ de Sam Altman de OpenAI sur l'AGI

• Très bien, bonjour à tous, c'était une journée excitante et je prends un peu l'air frais pour me vider l'esprit et réfléchir. En prenant du recul, réfléchissons à ce que le départ de Sam Altman de OpenAI signifie pour l'AGI. Sam Altman rejoint Microsoft, c'est d'abord et avant tout un homme d'affaires, mais c'est un leader très charismatique avec une vision claire. On pourrait dire qu'il n'est pas l'expert technique, donc cela n'a pas d'importance, mais ce n'est pas nécessairement ainsi que les choses fonctionnent. En tant que leader technologique inspirant moi-même avec divers projets tels que le cadre ACE ou le projet Agent Swarm, je dirais que le charisme et la vision sont absolument essentiels pour organiser le travail et inspirer les gens à réaliser des choses et à viser plus haut. C'est un peu comme la raison pour laquelle le Capitaine Picard était un leader si inspirant, car le niveau d'expertise de l'équipage qu'il a attiré a fait de lui le leader qu'il était, et vice versa. C'est donc une chose à garder à l'esprit à propos de Sam Altman, même s'il y a des aspects positifs, négatifs et moches. J'ai bien sûr exprimé certaines critiques de son approche et de sa mentalité par le passé, personne n'est parfait. Mais à mesure que de plus en plus d'informations émergent, il semble que la caractérisation faite par Ilia Suk selon laquelle il a commis une erreur grave est assez précise. Peu de temps après ma dernière vidéo, environ 80% des membres de OpenAI ont signé une lettre demandant à ce que le conseil démissionne et ramène Sam. Sam ne reviendra pas, donc OpenAI est condamné à l'échec. Comme on dit, OpenAI n'est rien sans ses employés, et si 80% d'entre eux partent, certains iront chez Microsoft, d'autres ailleurs. J'ai entendu dire que beaucoup d'entre eux postulaient déjà, et bien sûr, le pillage de talents est à prévoir. Je pense donc qu'OpenAI est condamné, mort-né. Je ne suis pas sûr de la façon dont fonctionne le contrat entre Microsoft et OpenAI, mais si OpenAI ne peut pas livrer, je soupçonne que Microsoft a le droit de priorité.

L'impact du départ de Sam Altman de OpenAI sur l'AGI

L'impact de l'argent sur les recherches en IA et AGI

• Le refus d'acheter leurs actifs signifie essentiellement que Sam Altman conserve la majeure partie d'Open AI sous la bannière de Microsoft, ce qui va à l'encontre directe de nombre de ses discours sur les incitations. Cela prouve bien que l'argent a son rôle à jouer, même si cela contredit les idéaux de non-lucrativité. Cependant, que signifie cela pour l'AGI ? Environ 90% de la recherche menant à l'AGI est en open source, principalement réalisée par des universités comme Stanford, Microsoft Research et Meta. Cela dit, les grandes entreprises disposent des moyens financiers pour entraîner les modèles de pointe, nécessitant des centaines d'employés talentueux et expérimentés, certains étant rémunérés des millions de dollars par an. Ainsi, bien que la majorité de la recherche soit publique, seul un petit pourcentage nécessite une expertise de haut niveau. C'est comme lors de l'industrialisation rapide de l'Inde et de la Chine, où le manque d'expérience a entraîné des échecs. De même, dans le domaine de l'AGI, seuls les talents éprouvés pourront accéder aux dernières avancées.

L'impact de l'argent sur les recherches en IA et AGI

L'avenir des experts en modèles de pointe dans le domaine de l'intelligence artificielle

• Ce qui va résulter, c'est en quelque sorte ce que l'on pourrait qualifier de croisement massif, car il me semble que c'est une conclusion inéluctable qu'OpenAI va imploser. Il semble que c'est une conclusion inéluctable qu'ils vont se disperser aux quatre vents, ce qui signifie que cette expertise, ces derniers 10%, va aller vers Apple, vers meta, vers Google, vers Microsoft, et aussi vers Nvidia et partout ailleurs. Certains de ces experts sont vraiment rares, il y a définitivement une rareté d'experts en modèles de pointe dans le monde. il pourrait y avoir mille experts en modèles de pointe dans le monde, il pourrait y en avoir moins, je ne sais pas. Mais toutefois, il y a deux ou trois ou quatre ans, il n'y avait pas mille experts en modèles de pointe, on peut former plus d'experts avec le temps en investissant dans l'éducation, en trouvant les bonnes personnes avec les bonnes compétences et la bonne disposition, puis en veillant à ce qu'ils acquièrent de l'expérience. C'est un processus lent, car le nombre de personnes intrinsèquement capables, avec les connaissances mathématiques nécessaires, l'intellect, la sagacité pour apprendre ces choses est limité. Mais le simple fait est qu'il y aura plus d'experts en modèles de pointe l'année prochaine qu'actuellement, c’est une contrainte temporaire. Cela reste une contrainte majeure, tout comme il y aura toujours les 100 meilleurs experts en énergie nucléaire ou en physique quantique dans le monde, il y aura toujours une certaine hiérarchie ou un ensemble de rangs. Mais le fait qu'OpenAI implose ne signifie pas que ces experts n'existent soudainement plus, en fait, le croisement massif que nous allons observer signifie que je pense qu'ils acquerront encore plus d'expérience précieuse et qu'ils seront encore plus intelligents, car ils quitteront la culture d'OpenAI pour acquérir de l'expérience dans d'autres entreprises technologiques comme Microsoft, Google Deep Mind, meta, Apple, etc. Ce croisement va être bénéfique non seulement pour les entreprises.

L'avenir des experts en modèles de pointe dans le domaine de l'intelligence artificielle

L'avenir de l'IA et son impact sur l'ouverture des données

• Cependant, ce sont les individus réellement experts qui font avancer les choses, et l'effet net, comme je l'ai dit, me donne assez confiance pour dire que c'est bénéfique à la fois pour l'AGI et pour la sécurité. En effet, OpenAI sous Ilia SS était très avare et a répété à plusieurs reprises que cela devait rester en source fermée, réservé à un très petit groupe de personnes. Il s'avère qu'il avait une vision assez particulière à ce sujet, alors que je prône depuis longtemps l'open source. Je ne dis pas qu'il faut tout divulguer dès le départ, mais je pense que cela prouve dans l'ensemble que cette information a vocation à se diffuser. Il y a une énorme quantité d'énergie et d'argent derrière, et toutes les autres entreprises en bénéficieront. Je crois que, sur ce point, cela profitera à chacun d'entre nous à long terme. Je sais que beaucoup d'entre vous sont très sceptiques vis-à-vis des méga-corporations, et je suis d'accord, c'est pourquoi je parle d'un nouveau contrat social où nous devons donner plus de pouvoir au gouvernement pour mieux contrôler ces entreprises. Mais c'est un tout autre sujet de conversation. J'espère que vous n'entendez pas la sirène en arrière-plan, il y a une autoroute à un quart de mile de là. Bref, le camion de pompiers est passé, il n'y a personne sur la route maintenant, je ne sais pas pourquoi ils klaxonnaient comme ça. Bon, principe numéro un : il y a déjà beaucoup d'experts en IA et il y en aura de plus en plus, et ils vont apprendre de ces changements, ce qui est globalement une bonne chose. Ils seront exposés à différentes cultures de sécurité, de cultures d'entreprise, de motivations financières, ce qui est positif car ils vont apprendre. Il y aura donc plus d'experts en AGI de type Frontier, et ils seront meilleurs grâce à cela, ce qui est une bonne chose. Entre tous les concurrents et leurs différentes approches vis-à-vis de l'open source, Google DeepMind publie beaucoup de choses en open source sur les modèles de type Frontier, tout comme Meta et Microsoft. OpenAI était probablement le moins ouvert de tous, après Apple bien sûr, car on sait à quel point Apple est féru de brevets. Mais je pense que c'est une bonne chose, car il y aura maintenant une tendance à l'ouverture.

L'avenir de l'IA et son impact sur l'ouverture des données

La collaboration croisée dans le domaine de l'IA : l'avenir de la technologie

• Il devrait y avoir beaucoup plus de collaboration croisée entre tous les différents acteurs et ce que je veux dire par là, c'est que certains articles ont des auteurs de Google Deep Mind et de Microsoft Research. Je pense que nous allons commencer à voir un peu plus de cela, j'espère, car ils vont réaliser que nous sommes plus forts ensemble et aussi tous ces anciens membres de OpenAI se connaissent, ils continueront à parler. Bien sûr, ils vont signer des accords de confidentialité, donc il y a certaines choses qu'ils ne pourront pas partager, mais ils entretiennent ces relations sociales qui contribueront à relier la Silicon Valley, même si ce n'est pas de manière officielle mais officieuse parce que toute cette situation est simplement trop captivante. C'est l'une des choses sur lesquelles je pense que tout le monde est d'accord, c'est que la montée en puissance vers l'IA générale et la super intelligence et tout ce qui s'ensuit est beaucoup trop important pour qu'un petit groupe s'en charge et bien trop captivant pour être ignoré. L'implosion de OpenAI me prouve de manière irréfutable qu'un petit groupe ne peut pas gérer cela, ne devrait pas le gérer. Ce n'aurait jamais dû être simplement la responsabilité de OpenAI de dire que nous sommes les seuls à pouvoir le faire, nous sommes les seuls à pouvoir le faire de manière responsable. C'était très présomptueux et très à courte vue, disons cela pour être charitable, c'était très à courte vue et c'était très présomptueux. Cela montre simplement que si vous voulez des contributions démocratiques à l'IA, cela doit être une conversation non seulement avec OpenAI mais aussi avec toutes les entreprises technologiques, avec tous les humains, avec tous les citoyens, avec tous les gouvernements. C'est ce que signifie les contributions démocratiques, ce n'est pas une solution technologique où vous avez un formulaire ou quoi que ce soit, les contributions démocratiques signifient bâtir un consensus par le biais du débat public. La démocratie a compris cela avec l'Agora, vous allez et vous avez vos débats publics, c'est pourquoi je suis ici sur YouTube, honnêtement. Eh bien, c'est mon coup de gueule pour aujourd'hui, mon deuxième coup de gueule pour aujourd'hui. Merci de regarder, santé, passez une bonne journée, etc.

La collaboration croisée dans le domaine de l'IA : l'avenir de la technologie

Conclusion:

En conclusion, le départ de Sam Altman de OpenAI a des répercussions significatives sur l'avenir de l'AGI. Il s'agit d'un changement majeur qui pourrait influencer le paysage de l'intelligence artificielle dans les années à venir.

Q & A