BUSINESS WIRE: Cloudflare verbessert die KI-Inferenzplattform mit einem leistungsstarken GPU-Upgrade, schnellerer Inferenz, größeren Modellen, Beobachtbarkeit und einer aktualisierten Vektordatenbank

MITTEILUNG UEBERMITTELT VON BUSINESS WIRE. FUER DEN INHALT IST ALLEIN DAS BERICHTENDE UNTERNEHMEN VERANTWORTLICH.

Workers AI ist der einfachste Ort, um KI-Anwendungen zu entwickeln und zu skalieren; kann jetzt größere Modelle bereitstellen und komplexere KI-Aufgaben bewältigen

SAN FRANCISCO --(BUSINESS WIRE)-- 27.09.2024 --

Cloudflare, Inc. (NYSE: NET), das führende Cloud-Unternehmen für Konnektivität, gab heute die Einführung neuer leistungsstarker Funktionen für Workers AI bekannt, der serverlosen KI-Plattform, und seiner Suite von KI-Anwendungsbausteinen, um es Entwicklern zu ermöglichen, schnellere, leistungsfähigere und performantere KI-Anwendungen zu erstellen. Auf Workers AI basierende Anwendungen können jetzt von schnellerer Inferenz, größeren Modellen, verbesserter Leistungsanalyse und vielem mehr profitieren. Workers AI ist die einfachste Plattform, um globale KI-Anwendungen zu erstellen und KI-Inferenz näher am Nutzer auszuführen, egal wo auf der Welt sie sich befinden.

Da große Sprachmodelle (LLMs) kleiner und performanter werden, wird die Netzwerkgeschwindigkeit zum Engpass für die Kundenakzeptanz und nahtlose KI-Interaktionen. Das global verteilte Netzwerk von Cloudflare trägt dazu bei, die Netzwerklatenz zu minimieren und unterscheidet sich damit von anderen Netzwerken, die in der Regel aus konzentrierten Ressourcen in begrenzten Rechenzentren bestehen. Die serverlose Inferenzplattform von Cloudflare, Workers AI, verfügt nun über GPUs in mehr als 180 Städten auf der ganzen Welt. Sie wurde für eine globale Zugänglichkeit entwickelt, um niedrige Latenzzeiten für Endnutzer auf der ganzen Welt zu bieten. Mit diesem Netzwerk von GPUs hat Workers AI einen der größten globalen Footprints aller KI-Plattformen und wurde entwickelt, um KI-Inferenz lokal so nah wie möglich am Nutzer auszuführen und Kundendaten näher am Heimatort zu halten.

„Als KI im letzten Jahr an Dynamik gewann, dachte niemand über die Netzwerkgeschwindigkeit als Grund für die Latenz von KI nach, da es sich noch um eine neuartige, experimentelle Interaktion handelte. Aber da KI immer mehr ein Teil unseres täglichen Lebens wird, werden das Netzwerk und Millisekunden wesentlich“, sagte Matthew Prince, Mitbegründer und CEO von Cloudflare. „Da sich KI-Workloads vom Training zur Inferenz verlagern, werden Leistung und regionale Verfügbarkeit entscheidend für die Unterstützung der nächsten Phase von KI sein. Cloudflare hat die größte globale Präsenz aller KI-Plattformen auf dem Markt, und die Verfügbarkeit von GPUs in Städten auf der ganzen Welt wird dazu beitragen, dass KI von einem neuartigen Spielzeug zu einem Teil unseres Alltags wird, so wie es das schnellere Internet für Smartphones war.“

Cloudflare führt außerdem neue Funktionen ein, die es zur einfachsten Plattform für die Entwicklung von KI-Anwendungen machen:

• Aktualisierte Performance und Support für größere Modelle: Jetzt erweitert Cloudflare sein globales Netzwerk mit leistungsfähigeren GPUs für Workers AI, um die KI-Inferenzleistung zu verbessern und Inferenzen auf deutlich größeren Modellen wie Llama 3.1 70B sowie die Reihe von Llama 3.2-Modellen mit 1B, 3B, 11B (und bald 90B) durchzuführen. Durch die Unterstützung größerer Modelle, schnellerer Antwortzeiten und größerer Kontextfenster können KI-Anwendungen, die auf Cloudflares Workers AI aufbauen, komplexere Aufgaben mit größerer Effizienz bewältigen – und so natürliche, nahtlose Endbenutzererfahrungen schaffen.
• Verbesserte Überwachung und Optimierung der KI-Nutzung mit persistenten Protokollen: Die neuen persistenten Protokolle in AI Gateway, die in der offenen Beta-Version verfügbar sind, ermöglichen es Entwicklern, Benutzeranfragen und Modellantworten über längere Zeiträume zu speichern, um die Performance ihrer Anwendung besser zu analysieren und zu verstehen. Mit dauerhaften Protokollen können Entwickler detailliertere Einblicke in die Nutzererfahrungen gewinnen, einschließlich der Kosten und Dauer von Anfragen, um ihre Anwendung zu verbessern. Seit der Einführung im letzten Jahr haben über zwei Milliarden Anfragen AI Gateway durchlaufen.
• Schnellere und erschwinglichere Anfragen: Vektordatenbanken erleichtern es den Modellen, sich an frühere Eingaben zu erinnern, so dass maschinelles Lernen für Suche, Empfehlungen und Texterstellung genutzt werden kann. Vectorize, die Vektordatenbank von Cloudflare, ist fortan allgemein verfügbar und unterstützt ab August 2024 Indizes mit jeweils bis zu fünf Millionen Vektoren – bis jetzt waren es 200.000. Die mittlere Abfragelatenz ist jetzt auf 31 Millisekunden (ms) gesunken, verglichen mit 549 ms. Diese Verbesserungen ermöglichen es KI-Anwendungen, relevante Informationen schnell und mit weniger Datenverarbeitung zu finden, was wiederum zu erschwinglicheren KI-Anwendungen führt.

Weitere Informationen finden Sie in den nachstehenden Ressourcen:

• Blog: Cloudflares größere, bessere, schnellere KI-Plattform
• Blog: Workers AI schneller und effizienter machen: Performance-Optimierung mit KV-Cache-Kompression and spekulativer Dekodierung
• Besuchen Sie uns online für Demos, Produktankündigungen und mehr bei unserem ersten Builder Day Live Stream heute, dem 26. September um 11 Uhr PT. Registrieren Sie sich unter https://builderday.pages.dev.

Über Cloudflare

Cloudflare, Inc. (NYSE: NET) ist das führende Cloud-Unternehmen für Konnektivität, das es sich zur Aufgabe gemacht hat, ein besseres Internet zu schaffen. Es ermöglicht Unternehmen, ihre Mitarbeiter, Anwendungen und Netzwerke überall schneller und sicherer zu machen und gleichzeitig Komplexität und Kosten zu reduzieren. Die Connectivity Cloud von Cloudflare bietet die umfassendste, einheitliche Plattform von Cloud-nativen Produkten und Entwickler-Tools, so dass jede Organisation die Kontrolle erhält, die sie für die Arbeit, Entwicklung und Beschleunigung ihres Geschäfts benötigt.

Cloudflare wird von einem der größten und am besten verknüpften Netzwerke der Welt unterstützt und blockiert für seine Kunden jeden Tag Milliarden von Online-Bedrohungen. Mehrere Millionen Organisationen vertrauen auf Cloudflare - von den größten Marken über Unternehmer und kleine Geschäfte bis hin zu gemeinnützigen Organisationen, humanitären Gruppen und Regierungen auf der ganzen Welt.

Erfahren Sie mehr über die Konnektivitäts-Cloud von Cloudflare unter cloudflare.com/connectivity-cloud. Erfahren Sie mehr über die neuesten Internet-Trends und Erkenntnisse unter https://radar.cloudflare.com.

Folgen Sie uns auf: Blog | X | LinkedIn | Facebook | Instagram

Zukunftsgerichtete Aussagen

Diese Pressemitteilung enthält zukunftsgerichtete Aussagen im Sinne von Abschnitt 27A des Securities Act von 1933 in der geänderten Fassung und Abschnitt 21E des Securities Exchange Act von 1934 in der geänderten Fassung, die erhebliche Risiken und Unsicherheiten beinhalten. In einigen Fällen können Sie zukunftsgerichtete Aussagen daran erkennen, dass sie Begriffe wie „vielleicht“, „wird“, „sollte“, „erwarten“, „untersuchen“, „planen“, „vorhersehen“, „könnte“, „beabsichtigen“, „zielsetzen“, „projizieren“, „erwägen“, „glauben“, „schätzen“, „vorhersagen“, „potenziell“ oder „fortsetzen“ oder Verneinungen dieser Begriffe oder ähnliche Formulierungen enthalten, die sich auf die Erwartungen, Strategien, Pläne oder Absichten von Cloudflare beziehen. Jedoch enthalten nicht alle zukunftsgerichteten Aussagen diese kennzeichnenden Wörter. Zukunftsgerichtete Aussagen, die in dieser Pressemitteilung ausgedrückt oder impliziert werden, umfassen, sind aber nicht beschränkt auf Aussagen über die Fähigkeiten und Effektivität von Workers AI, AI Gateway, Vectorize, R2 sowie über andere Produkte und Technologien von Cloudflare, die Vorteile, die Cloudflare-Kunden durch die Nutzung von Workers AI, AI Gateway, Vectorize, R2 sowie anderer Produkte und Technologien von Cloudflare erhalten, den Zeitpunkt, zu dem Workers AI, AI Gateway, Vectorize, R2 oder eine seiner zugehörigen Funktionen allgemein für alle aktuellen und potenziellen Cloudflare-Kunden verfügbar sein wird, die technologische Entwicklung von Cloudflare, zukünftige Geschäftstätigkeiten, Wachstum, Initiativen oder Strategien sowie Kommentare von Cloudflares CEO und anderen. Tatsächliche Ergebnisse könnten erheblich von den in zukunftsgerichteten Aussagen geäußerten oder implizierten abweichen, aufgrund einer Reihe von Faktoren, einschließlich, aber nicht beschränkt auf, Risiken, die in den Einreichungen von Cloudflare bei der Securities and Exchange Commission (SEC) aufgeführt sind, einschließlich des Quartalsberichts von Cloudflare auf Formular 10-Q, der am 1. August 2024 eingereicht wurde, sowie anderer Einreichungen, die Cloudflare von Zeit zu Zeit bei der SEC vornehmen kann.

Die in dieser Pressemitteilung dargelegten zukunftsgerichteten Aussagen beziehen sich nur auf Ereignisse zu dem Zeitpunkt, an dem die Aussagen gemacht werden. Cloudflare übernimmt keine Verpflichtung, zukunftsgerichtete Aussagen in dieser Pressemitteilung zu aktualisieren, um Ereignisse oder Umstände nach dem Datum dieser Pressemitteilung oder neue Informationen oder das Eintreten unvorhergesehener Ereignisse widerzuspiegeln, es sei denn, dies ist gesetzlich vorgeschrieben. Cloudflare wird die in den zukunftsgerichteten Aussagen offengelegten Pläne, Absichten oder Erwartungen möglicherweise nicht verwirklichen, und die Leser sollten sich nicht über Gebühr auf die zukunftsgerichteten Aussagen von Cloudflare verlassen.

©2024 Cloudflare, Inc. Alle Rechte vorbehalten. Cloudflare, das Cloudflare-Logo und andere Cloudflare-Marken sind Marken und/oder eingetragene Marken von Cloudflare, Inc. in den USA und anderen Gerichtsbarkeiten. Alle anderen Marken und Namen, auf die hier Bezug genommen wird, können Marken der jeweiligen Eigentümer sein.

Die Ausgangssprache, in der der Originaltext veröffentlicht wird, ist die offizielle und autorisierte Version. Übersetzungen werden zur besseren Verständigung mitgeliefert. Nur die Sprachversion, die im Original veröffentlicht wurde, ist rechtsgültig. Gleichen Sie deshalb Übersetzungen mit der originalen Sprachversion der Veröffentlichung ab.

Originalversion auf businesswire.com ansehen: https://www.businesswire.com/news/home/20240926693609/de/

Cloudflare, Inc.
Daniella Vallurupalli
Vorstand und Leiterin der globalen Unternehmenskommunikation
press@cloudflare.com