FINANCIEEL.com

Waarom Japan achterloopt op het gebied van generatieve AI en het creëren van LLM’s

Waarom Japan achterloopt op het gebied van generatieve AI en het creëren van LLM’s

Japan staat bekend om zijn futuristische technologie. Maar het land loopt achter in de generatieve AI-race en probeert zijn eigen grote taalmodellen te creëren.

Mr.cole_photographer | Even |

Landen racen om hun eigen generatieve algoritmen voor kunstmatige intelligentie te ontwikkelen, maar hightech Japan loopt al achter.

Generatieve AI is het meest trendy onderwerp in technologie sinds OpenAI furore maakte met zijn chatbot ChatGPT. Volgens onderzoek van Goldman Sachs hebben doorbraken in generatieve AI het potentieel om in het komende decennium een ​​toename van 7% van het wereldwijde bbp of bijna 7 biljoen dollar te stimuleren.

De sleutel tot generatieve AI-ontwikkeling zijn grote taalmodellen die ten grondslag liggen aan onder meer ChatGPT en Baidu’s Ernie Bot, in staat om enorme datasets te verwerken om tekst en andere inhoud te genereren. Maar Japan loopt momenteel achter op de VS, China en de EU bij het ontwikkelen van deze algoritmen, zegt Noriyuki Kojima, mede-oprichter van de Japanse LLM-startup Kotoba Technology.

Chinese organisaties, waaronder techreuzen Alibaba en Tencent, hebben in de afgelopen drie jaar ten minste 79 LLM’s in eigen land gelanceerd, meldde Reuters in mei onder verwijzing naar onderzoek van een consortium van door de staat gerunde instituten. Amerikaanse corporate grootmachten zoals OpenAI, Microsoft, Google En Meta spelen een belangrijke rol bij het voortstuwen van de LLM-vorderingen van het land, zei Kojima.

Japan loopt achter op het gebied van generatieve AI

Japan loopt echter achter op de VS, China en Europa wat betreft de schaal en snelheid van zijn LLM-ontwikkeling.

“De achterblijvende positie van Japan op het gebied van generatieve AI komt grotendeels voort uit de relatieve tekortkomingen op het gebied van deep learning en uitgebreidere softwareontwikkeling”, aldus Kojima.

Diep leren vereist een “robuuste gemeenschap van software-ingenieurs” om de nodige infrastructuur en applicaties te ontwikkelen, voegde Kojima eraan toe. Volgens het ministerie van Economie, Handel en Industrie zal Japan tegen 2030 echter te maken krijgen met een tekort van 789.000 software-engineers. Het land staat nu op plaats 28e uit 63 landen in termen van technologische kennis, volgens de IMD World Digital Competitiveness Ranking.

Japan staat ook voor hardware-uitdagingen, aangezien LLM’s moeten worden opgeleid met behulp van AI-supercomputers die van IBM Vela en het door Azure gehoste systeem van Microsoft. Maar geen enkel privébedrijf in Japan bezit zijn eigen “machine van wereldklasse” met die mogelijkheden, meldde Nikkei Asia.

Door de overheid gecontroleerde supercomputers zoals Fugaku hebben daarom “de sleutel in handen” tot Japan’s zoektocht naar LLM’s, legde Kojima uit.

“Toegang tot dergelijke grootschalige supercomputers vormt de ruggengraat van LLM-ontwikkeling, aangezien dit traditioneel het belangrijkste knelpunt in het proces is geweest”, zei hij.

Hoe de supercomputers van Japan kunnen helpen

Het Tokyo Institute of Technology en Tohoku University zijn van plan om Fugaku te gebruiken om LLM’s te ontwikkelen die voornamelijk gebaseerd zijn op Japanse gegevens in samenwerking met de supercomputerontwikkelaars Fujitsu en Riken, zo maakte Fujitsu in mei bekend.

De organisaties zijn van plan hun onderzoeksresultaten in 2024 te publiceren om andere Japanse onderzoekers en ingenieurs te helpen LLM’s te ontwikkelen, voegde Fujitsu eraan toe.

Japan heeft 'een van de beste' macro-verhalen, zegt vermogensbeheerder

De Japanse overheid zal ook 6,8 miljard yen ($ 48,2 miljoen) investeren, ongeveer de helft van de totale kosten, om een ​​nieuwe supercomputer in Hokkaido te bouwen die al volgend jaar in gebruik zal worden genomen, meldde Nikkei Asia. De supercomputer zal zich specialiseren in LLM-training om de ontwikkeling van generatieve AI in Japan te bevorderen, aldus Nikkei Asia.

In april zei de Japanse premier Fumio Kishida dat het land het industriële gebruik van generatieve AI-technologie steunt. Kishida’s opmerkingen volgden op zijn ontmoeting met Sam Altman, CEO van OpenAI, die zei dat het bedrijf op zoek is naar een kantoor in Japan.

Japanse bedrijven streven naar generatieve AI

Big Tech-spelers hebben zich ook bij de strijd gevoegd om de positie van Japan op het gebied van generatieve AI te vergroten. In juni, van SoftBank mobiele arm zei dat het van plan is om zijn eigen generatieve AI-platform te ontwikkelen, meldden lokale media. Dit werd onderstreept door de aankondiging van SoftBank-CEO Masayoshi Son dat de investeringsmaatschappij van plan is om van “verdedigingsmodus” naar “aanvalsmodus” te gaan en haar focus op AI te intensiveren.

“Dat willen we zijn [in] de leidende positie voor de AI-revolutie”, zei Son tijdens een jaarlijkse algemene vergadering van aandeelhouders.

SoftBank Group verkocht in april zijn belang van 85% in SB Energy aan Toyota Tsusho en kwam onlangs overeen om zijn belang van 90% in de Amerikaanse investeringsmanager Fortress Investment Group te verkopen, meldde Nikkei Asia. Door deze andere investeringen in te korten, kan SoftBank geld vrijmaken, waardoor het zich grotendeels op AI kan concentreren via zijn durfkapitaalinvesteringseenheid Vision Fund.

Het chipontwerpbedrijf Arm, dat eigendom is van SoftBank, zal later dit jaar ook een Amerikaanse IPO-notering nastreven. “Het wordt verreweg de grootste IPO ter wereld”, zegt Amir Anvarzadeh, strateeg voor de Japanse aandelenmarkt bij Asymmetric Advisors.

De IPO zal een flinke som opleveren om fondsen te stimuleren bij SoftBank, dat een recordverlies van 4,3 biljoen yen rapporteerde bij Vision Fund voor het fiscale jaar dat eindigde op 31 maart.

Arm probeerde oorspronkelijk tussen de $ 8 miljard en $ 10 miljard op te halen. Maar met de vraag naar halfgeleiderchips “door het dak”, suggereerde Anvarzadeh dat Arm maar liefst $ 50 miljard tot $ 60 miljard zou kunnen ophalen – of “85% van de marktkapitalisatie van SoftBank”.

Hij zei dat de aandelenkoers van SoftBank waarschijnlijk zal stijgen, hoewel dit geen garantie is voor het succes van zijn AI-inspanningen.

“Fundamenteel denk ik niet dat SoftBank het Japanse landschap gaat veranderen … ze zijn geen redder van de Japanse AI”, zei hij.

SoftBank-CEO Masayoshi Son zegt dat de gigant klaar is om over te schakelen naar de aanvalsmodus

Japans telecommunicatiebedrijf NTT kondigde ook plannen aan om dit fiscale jaar zijn eigen LLM te ontwikkelen, met als doel een “lichtgewicht en efficiënte” dienst voor bedrijven te creëren. NTT zei dat het de komende vijf jaar 8 biljoen yen zal sluizen naar groeigebieden zoals datacenters en AI, een stijging van 50% ten opzichte van het eerdere investeringsniveau.

Lokale media meldden dat digitale advertentiebedrijf CyberAgent heeft in mei een LLM uitgebracht waarmee bedrijven AI-chatbottools kunnen maken. Het bedrijf zei dat het een van de weinige “modellen is die gespecialiseerd zijn in de Japanse taal en cultuur”.

Hoewel het zijn achterstand op het gebied van generatieve AI nog moet inhalen, zet Japan zijn eerste stappen met deze inspanningen van de particuliere sector. Als er eenmaal een “robuuste infrastructuur” is opgezet, zullen de resterende technische uitdagingen waarschijnlijk “aanzienlijk worden beperkt” door gebruik te maken van open-source software en gegevens van eerdere pioniers, zei Kojima. Bloom, Falcon en RedPajama zijn allemaal open-source LLM’s die zijn getraind op enorme hoeveelheden gegevens die kunnen worden gedownload en bestudeerd.

Bedrijven die zich op dit gebied wagen, moeten echter anticiperen op concurrentie die een “relatief langere tijdspanne” beslaat, zei Kojima. Het ontwikkelen van LLM’s vereist aanzienlijke kapitaalinvesteringen en een personeelsbestand dat zeer bedreven is in natuurlijke taalverwerking en high-performance computing, legde hij uit.

“SoftBank en NTT, die meedoen aan deze competitie, zullen het AI-landschap op korte termijn niet veranderen.”

AI-regelgeving in Japan

De toegenomen deelname van Japanse technologiebedrijven aan generatieve AI-ontwikkeling valt samen met een positieve houding ten aanzien van AI-adoptie in andere sectoren. Meer dan 60% van de bedrijven in Japan staat positief tegenover het gebruik van generatieve AI in hun activiteiten, terwijl 9,1% dit al doet, blijkt uit een onderzoek van Teikoku Databank.

Hitachi heeft een generatief AI-centrum opgericht om het veilige en effectieve gebruik van de technologie door werknemers te bevorderen, zei het in mei. Met de expertise van datawetenschappers, AI-onderzoekers en relevante specialisten zal het centrum richtlijnen formuleren om de risico’s van generatieve AI te verminderen, aldus het conglomeraat.

Japan zal zelfs de acceptatie door de overheid van AI-technologie zoals ChatGPT overwegen, op voorwaarde dat de zorgen over cyberbeveiliging en privacy zijn opgelost, zei kabinetschef Hirokazu Matsuno.

Naarmate Japan meer openstaat voor het gebruik van generatieve AI, moet de overheid zachte richtlijnen met betrekking tot het gebruik ervan formuleren en faciliteren, terwijl ze de behoefte aan harde regelgeving op basis van specifieke risico’s beoordeelt, zei Hiroki Habuka, onderzoeksprofessor aan de Graduate School of Law van de Universiteit van Kyoto.

“Zonder duidelijkere richtlijnen over welke acties bedrijven moeten ondernemen bij het gebruik van generatieve AI, kunnen praktijken gefragmenteerd raken”, zei de professor.

Gerelateerde onderwerpen

Voedselbanken worstelen met de bevoorrading omdat supermarkten hun verspilling terugdringen

Maersk verlengt de omleiding naar de Rode Zee voor ‘in de nabije toekomst’

In Oost- en Noordoost-Nederland zijn belangrijke wegen ondergelopen

Het overstromingsrisico blijft hoog, maar de dijken houden stand, zeggen ambtenaren

De Indiase Gautam Adani is opnieuw de rijkste persoon van Azië

De inflatie in de eurozone herstelt zich in december, wat de debatten over renteverlagingen aanwakkert