Libérer un torrent open source sur les processeurs et les moteurs d'IA

Lorsque vous combinez les forces de l’open source et l’expérience vaste et approfondie du légendaire architecte de puces Jim Keller dans les semi-conducteurs, quelque chose d’intéressant va forcément se produire. Et c’est précisément le plan du startup AI et maintenant du fabricant de processeurs Tenstorrent.

Tenstorrent a été fondée en 2016 par Ljubisa Bajic, Milos Trajkovic et Ivan Hamer et a son siège social à Toronto. Keller était un investisseur providentiel et un conseiller de l'entreprise dès le départ, et a été nommé directeur de la technologie en janvier 2021 après un passage dans l'activité serveurs d'Intel, où il a nettoyé certains problèmes d'architecture et de processus comme il l'a fait dans le cadre d'un emploi précédent chez AMD. En janvier de cette année, Keller a été choisi pour remplacer Bajic au poste de PDG, et la société annonce aujourd'hui qu'elle apportera entre 120 et 150 millions de dollars dans son financement de série D, avec Hyundai Motor Group et Samsung Catalyst Fund en tête. le cycle et avec les investisseurs précédents Fidelity Ventures, Eclipse Ventures, Epiq Capital, Maverick Capital et d’autres qui ont mis le paquet. À ce jour, cela représentera la cagnotte d'investissement à quelque part au nord de 384,5 millions de dollars et augmentera probablement sa valorisation au-dessus de 1,4 milliard de dollars.

Tout cet argent est intéressant et nécessaire pour payer la quantité substantielle de travail d'ingénierie que l'équipe Tenstorrent doit effectuer pour créer une gamme de processeurs de serveur RISC-V de qualité commerciale et d'accélérateurs d'IA pour les égaler et, plus important encore, pour prendre sur l'hégémonie du GPU Nvidia dans la formation en IA. Il faudra de l’argent – ​​et peut-être beaucoup plus, ou peut-être pas – pour aider les entreprises à réduire les coûts de formation en IA. Ce que nous savons, c'est que Keller pense qu'il a l'équipe pour le faire, et nous avons discuté avec lui de la mission Tenstorrent, que nous attendions avec impatience.

Nous examinerons en profondeur les architectures du processeur Tenstorent et du moteur IA dans un suivi.

Timothy Prickett Morgan : Passons directement à la scène de poursuite. Je mourais d'envie de vous poser cette question parce que votre réponse compte. Pourquoi diable avons-nous besoin d’un autre accélérateur d’IA ?

Jim Keller :Eh bien, le monde a horreur du monopole.

TPM : Ouais, mais nous avons déjà tellement de sociétés différentes dans le jeu. Rien de tout cela n’a fonctionné à ma satisfaction. Ce n'est pas comme si les gars de Groq avaient pris l'idée du TPU et l'avaient commercialisé, c'était fini. Ce n'est pas comme MapReduce et Yahoo Hadoop. Nirvana Systems et Habana Labs avaient tous deux ce que je pense être de bonnes architectures, et Intel n'a pas eu beaucoup de succès avec l'une ou l'autre. Graphcore et SambaNova sont raisonnables, Cerebras a une échelle de plaquette et c'est intéressant. L'espéranto est également présent avec RISC-V. Et d'après ce que je peux voir, tout le monde a un problème d'un milliard de dollars pour passer au niveau supérieur. Je sais que RISC-V est important, que c'est le Linux du matériel et nous attendons ce moment depuis longtemps. Utiliser RISC-V pour construire un accélérateur est la partie la plus simple du choix architectural.

Qu'est-ce que Tenstorrent peut faire de différent, de meilleur ? Je ne m'attends pas à ce que vous dévoiliez tous les détails de l'architecture aujourd'hui, mais qu'est-ce qui vous motive et pourquoi ?

Jim Keller : Il y a un tas de choses. Premièrement, chaque fois qu'il y a un grand cycle de battage médiatique, plus de personnes obtiennent des investissements que ce qui est correctement supportable par l'industrie. Ljubisa Bajic, l'un des co-fondateurs de Tenstorrent, et moi avons eu de longues discussions car à l'époque, SambaNova et Cerebras avaient des valorisations très élevées. Ils ont donc collecté beaucoup d’argent et ont commencé à dépenser beaucoup d’argent, et nous avons fait le contraire. Nous avons eu une valorisation de 1 milliard de dollars après le dernier cycle de financement et on nous a proposé plus d'argent à des valorisations plus élevées. Et puis nous avons pensé : Et alors ? Des tours comme tout le monde ? C'est vraiment dur pour votre entreprise. Comme si cela mettait en quelque sorte vos employés et vos investisseurs dans une mauvaise situation. Nous avons donc levé moins d’argent à une valorisation inférieure parce que nous sommes là pour le long terme.

Maintenant, nous avons analysé ce que font Cerebras, Graphcore, SambaNova, Groq et les autres, et ils ont tous quelque chose d'intéressant sinon ils ne seraient pas financés.