Bing-KI verbraucht über 20-mal mehr Strom als Google Bard

News

Unter den einschlägigen Chatbots verbraucht die KI in Microsofts Suchmaschine Bing am meisten Strom: mehr als 20 Mal so viel wie Google Bard. Zu diesem Schluss kommt eine Studie des US-amerikanischen Rechenzentrumsbetreibers TRG.

(Source: eyetronic / Fotolia.com)

ChatGPT ist die aktuell populärste Anwendung generativer KI. Der Chatbot von OpenAI verzeichnet aktuell 16 Millionen Suchanfragen pro Monat – Google Bard hingegen kommt lediglich auf 201'000. Diese Zahlen gehen aus einer Studie von TRG Datacenters hervor. Der texanische Rechenzentrumsbetreiber weist darin nicht nur Nutzungszahlen aus, sondern auch den geschätzten Energieverbrauch der am häufigsten genutzten Chatbots. Den Berechnungen zufolge verbraucht die Bing-KI von Microsoft mit Abstand am meisten Strom, und zwar 7200 Megawattstunden (MWh).

Die Studienautoren begründen ihre Schätzung folgendermassen: Bing verwendet das Large Language Model (LLM) GPT-4 von OpenAI. Dieses habe 100 Billionen Parameter - 5,8 Mal so viele wie GPT-3, wie die Studienautoren ausführen. Dementsprechend müsste das Modell auch 5,8-mal mehr Petaflop/s-Tage für Berechnungen brauchen als GPT-3. Insgesamt würde GPT-4 demnach 21'000 Petaflop/s-Tage an Rechenleistung benötigen.

Wenn OpenAI in seinem Supercomputer die gleichen Nvidia GPUs V100 mit 0,014 Petaflop/s verwendet, dann sollte es etwa 150 Tage dauern, um das Training abzuschliessen. Die Trainingszeit von GPT-4 betrage demnach fünf bis sechs Monate, folgern die Studienautoren. Wenn also 10'000 V100 150 Tage lang mit voller Leistung liefen, bedeute dies einen Energieverbrauch von 7'200'000'000 Wattstunden respektive 7200 MWh.

Für ChatGPT schätzen die Analysten einen Stromverbrauch von 1248 MWh – dies allerdings unter der Annahme, dass die Version 3 des entsprechenden Sprachmodells zur Anwendung kommt. Für die Bezahl-Version von ChatGPT kommt aktuell GPT-4 zum Einsatz – ebenso wie bei Bing – und die Gratis-Version basiert zurzeit auf Version 3.5.

Bard verbraucht weniger Strom

Egal, welches Sprachmodell von OpenAI: Google Bard verbraucht deutlich weniger Energie – zu diesem Schluss kommt zumindest die Studie von TRG. Der KI-Chatbot des Suchmaschinisten soll den Ergebnissen zufolge 312 MWh verbrauchen – also mehr als 20 Mal weniger als Bing.

Bard verwendet die von Google-eigenen Chips TPUv4. Diese seien doppelt so schnell und halb so energiehungrig wie Nvidia V100, begründen die Studienautoren ihren Befund. Die Analysten gehen davon aus, dass die Google-KI mit ihren 137 Milliarden Parametern 3640 Petaflop/s-Tage für die Berechnung verbraucht und die Chips für das Training 13 Tage benötigen.

Übrigens: Auch Videokonferenz-Anwendungen sind energiehungrig und benötigen bei aktivierter Kamera viel Strom. In diesem Artikel erfahren Sie, welche Tools wie Zoom & Co. am meisten Strom und Daten verbrauchen.