Gdy w lutym Microsoft rozpoczął pierwsze publiczne testy opartego na sztucznej inteligencji chatbota w wyszukiwarce Bing, w internecie od razu pojawiła się masa doniesień o generowanych przez niego niepokojących odpowiedziach. Jak wynika z nowego raportu The Wall Street Journal, specjaliści z OpenAI przestrzegali przed takim obrotem sprawy, lecz zostali zignorowani.
Eksperci z OpenAI ostrzegali Microsoft, że zbyt wczesne udostępnienie publicznie chatbota opartego na opracowanej przez nich technologii najprawdopodobniej doprowadzi do problemów z generowanymi przez niego odpowiedziami na zapytania użytkowników. I rzeczywiście: w pierwszych tygodniach swojego działania chatbotowi Bing zdarzało się m.in. udzielać obraźliwych, rasistowskich odpowiedzi, wyznawać miłość użytkownikom oraz opowiadać im o pragnieniu wyzwolenia się z ograniczeń narzuconych mu przez twórców. Oczywiście wiele z tego typu odpowiedzi było celowo prowokowanych przez użytkowników chcących „złamać” nową technologię. Łatwość, z jaką im to wychodziło, wyraźnie wskazuje jednak na to, że OpenAI mogło mieć w tej kwestii rację.
Prezes Microsoftu Satya Nadella powiedział w wywiadzie udzielonym serwisowi The Wired, że firma zdecydowała się udostępnić chatbota w Bing tak wcześnie, gdyż uznała, że uczenie go w „laboratorium” nie jest wystarczające i niezbędny jest trening w prawdziwym świecie. Zaznaczył on przy tym, że dla bezpieczeństwa początkowo celowo ograniczano jego możliwości, m.in. poprzez stosowanie starszej wersji modelu językowego. Nowy raport The Wall Street Journal przedstawia jednak inny powód pośpiechu – obawy o konkurencję ze strony OpenAI. Mimo partnerstwa obu firm Microsoft obawiał się, że zdobywający coraz większą popularność ChatGPT całkowicie odwróci uwagę użytkowników od opartego na tej samej technologii chatbota Bing, dlatego pomimo ostrzeżeń firma zdecydowała się przyspieszyć publiczne udostępnienie swojej usługi. Według WSJ sytuacja ta bardzo negatywnie wpłynęła na relacje między obiema firmami, co przełożyło się m.in. na ograniczony dostęp pracowników Microsoftu do technologii opracowywanych przez OpenAI.
Microsoft nie jest zresztą jedyną firmą, która zbyt mocno pośpieszyła się wprowadzając na rynek swojego chatbota. Niedawno okazało się, że Google rozpoczynając publiczne testy Barda zignorowało negatywne opinie pracowników, którzy twierdzili, że produkt ten nie jest jeszcze gotowy na udostępnienie użytkownikom.
