ChatGPT, der Konversations-KI-Bot von OpenAI, wurde letztes Jahr eingeführt und ist dank seiner Fähigkeit, Geschichten zu schreiben, E-Mails zu verfassen und sogar zu generieren, in Rekordgeschwindigkeit sehr beliebt geworden Code (manchmal leider sogar schädlich). Ein neuer Bericht deutet jedoch darauf hin, dass es OpenAI ein Vermögen kostet, es Tag für Tag am Laufen zu halten.
Laut Untersuchungen von SemiAnalysis gibt OpenAI fast 695 US-Dollar pro Tag für die Wartung aus Chat-Bot In der Reihenfolge. Nach Schätzungen des Unternehmens umfasst das System etwa mehr als 3,6 100 HGX A29-Server und fast 0,36 XNUMX GPUs, und die Kosten pro Anfrage betragen etwa XNUMX ¢.
Dylan Patel, leitender Analyst bei SemiAnalysis, sagte gegenüber Business Insider, dass die aktuellen Kosten für den Betrieb der Software sogar noch höher sein könnten, da die Ausführung der GPT-4-Version wahrscheinlich teurer ist als die des Vorgängers GPT-3. Er stützte seine Schätzungen auf das bisherige GPT-3-Modell, aber OpenAI hat bereits eine Version veröffentlicht GPT-4 für zahlende Abonnenten. Das Unternehmen behauptet, dass das neue Modell genauere Informationen bietet und besser vor falschen Antworten schützt, die bei früheren Versionen ein Problem waren.
Einer der Hauptgründe für die exorbitanten Kosten sind die energieintensiven Spezialchips, die zum Betrieb des Systems benötigt werden. Um dieses Problem zu lösen, Microsoft arbeitet an einem eigenen Chip für künstliche Intelligenz namens Athena, der GPUs ersetzen könnte NVIDIA und reduzieren Sie die Betriebskosten von ChatGPT.
Inzwischen kann ChatGPT bereits von Grund auf funktionsfähigen Code generieren und lässt sogar Befürchtungen aufkommen, dass es irgendwann Programmierer ersetzen könnte. Eine kürzlich von einer Gruppe von Wissenschaftlern durchgeführte Studie legt jedoch nahe, dass von Chatbots generierter Code möglicherweise nicht sehr sicher ist. Laut der Studie generiert ChatGPT Code, der „deutlich unter den in den meisten Situationen geltenden Mindestsicherheitsstandards liegt“. Interessanterweise gibt der Chatbot dies zu, wenn er gefragt wird, wie sicher der von ihm generierte Code ist.
Um die Qualität der Kodierung zu überprüfen ChatGPT, baten ihn die Forscher, 21 Programme und Skripte mit vier Programmiersprachen zu generieren: C, C++, Python und Java. Bei seinem ersten Versuch konnte der Chatbot nur 5 sichere Programme schreiben, aber nach einigen Aufforderungen der Forscher erstellte er 7 sicherere Codeteile. Die Ergebnisse der Studie deuten darauf hin, dass die Verwendung von ChatGPT zum Schreiben von Anwendungen derzeit ineffizient oder sogar gefährlich sein kann, dies kann sich jedoch in Zukunft ändern.
Lesen Sie auch:
Wow-Zahlen für ein freies Neuron!
Ich hätte nie im Leben gedacht, dass es so teuer ist...
Ich war auch überrascht. Ich fühle mich sogar etwas unwohl jetzt Öffnen Sie ChatGPT - ich werde es immer noch mit meinen Anfragen belasten)