Partnerstwo Microsoftu w zakresie OpenAI zrodziło się z zazdrości Google

Okazuje się, że dzisiejszy krajobraz sztucznej inteligencji wynika – jak wiecie – ze strachu, zazdrości i intensywnych ambicji kapitalistycznych. Po pierwsze, e-maile zostały ujawnione w związku ze sprawą antymonopolową toczoną przez Departament Sprawiedliwości przeciwko Google zgłoszone z Znawca biznesu, pokaż, jak kadra kierownicza Microsoft wyraża zaniepokojenie i zazdrość w związku z liderem Google w zakresie sztucznej inteligencji. Spowodowało to pilną potrzebę, która skłoniła producenta systemu Windows do zainwestowania początkowo miliarda dolarów w swojego obecnie niezastąpionego partnera, OpenAI.

W mocno zredagowanym wątku e-mailowym z 2019 r. zatytułowanym „Myśli o OpenAI” dyrektor generalny Microsoft Satya Nadella przekazuje długą wiadomość od CTO Kevina Scotta do CFO Amy Hood. „Bardzo dobry e-mail wyjaśniający, dlaczego chcę, żebyśmy to zrobili… i dlaczego dopilnujemy, aby nasi pracownicy z infrastruktury tak się stało” – napisał Nadella.

Scott napisał, że jest „bardzo, bardzo zaniepokojony” szybko rosnącymi możliwościami Google w zakresie sztucznej inteligencji. Mówi, że początkowo odrzucił „akrobacje w rozgrywce” firmy, prawdopodobnie odnosząc się do modeli AlphaGo firmy Google. Jeden z nich pokonał mistrza świata w Go Ke Jie w 2017 roku, co było wówczas niezwykłym osiągnięciem. (Późniejsze modele Google przewyższały ten model i całkowicie wyeliminowały potrzebę szkolenia ludzi).

Scott twierdzi jednak, że „błędem” było odrzucenie postępów Google w grze. „Kiedy zabrali całą infrastrukturę, którą zbudowali, aby ją zbudować [natural language] Kiedy opracowaliśmy modele, których nie mogliśmy łatwo odtworzyć, zacząłem podchodzić do wszystkiego poważniej” – napisał Scott. „Kiedy próbowałem dowiedzieć się, gdzie znajdują się wszystkie luki w wydajności między Google a nami w szkoleniu modelek, bardzo, bardzo się zmartwiłem”.

Scott opowiada, jak Microsoft miał trudności ze skopiowaniem BERT-large firmy Google – modelu sztucznej inteligencji, który rozszyfrowuje znaczenie i kontekst słów w zdaniu. Scott obwinia za to skoki w infrastrukturze, których dokonał jego konkurent – ​​a nie Microsoft.

„Okazało się, że nie było nam łatwo odtworzyć BERT-large. Mimo że mieliśmy szablon modelu, wytrenowanie modelu zajęło nam około sześciu miesięcy, ponieważ nasza infrastruktura nie sprostała temu zadaniu” – napisał dyrektor techniczny firmy Microsoft. „Google miał wcześniej BERT przez co najmniej sześć miesięcy, więc w czasie, jaki zajęło nam wspólne wytrenowanie modelu o 340 milionach parametrów, oni mieli rok na wymyślenie, jak wprowadzić go do produkcji i byli w stanie przenieść na większe, ciekawsze modele.”

Podziwiał także funkcje autouzupełniania Gmaila i zazdrościł im, twierdząc, że będą „szokująco dobre”. Skomentował, że Microsoft „był kilka lat w tyle za konkurencją pod względem wydajności”. [machine learning] Skala.” Skomentował „ciekawy” rozwój OpenAI, DeepMind i Google Brain.

Scott pochwalił „bardzo inteligentnych” pracowników Microsoftu w zespołach zajmujących się uczeniem maszynowym, ale stwierdził, że ich ambicje zostały ograniczone. „Jednak podstawowe zespoły zajmujące się głębokim uczeniem się w każdym z tych większych zespołów są bardzo małe, a ich ambicje również są ograniczone, co oznacza, że ​​nawet jeśli zaczniemy zapewniać im zasoby, nadal będą musieli przejść proces uczenia się, aby się rozwijać”. napisał. „A jeśli chodzi o zakres ML, jesteśmy kilka lat za konkurencją”.

Po tym, jak Hood zwrócił uwagę, że Scott martwił się „dlaczego chcę, żebyśmy to zrobili”, tj. zainwestowali w OpenAI, firma spełniła życzenie swojego dyrektora generalnego. W 2019 roku Microsoft zainwestował 1 miliard dolarów w start-up kierowany przez Sama Altmana, a reszta to historia szybko zmieniająca się. (Obecnie zainwestowano 13 miliardów dolarów). Jest to technologia, która dokonuje niesamowitych rzeczy, ale jednocześnie grozi wydrążeniem rynku pracy i udostępnieniem propagandystom najpotężniejszych narzędzi w epoce i tak już szerzącej się dezinformacji.