Microsoft en Meta breiden hun AI-partnerschap uit met Llama 2 op Azure en Windows
Wat je moet weten
- Microsoft en Meta verlengen hun langdurige samenwerking.
- Meta heeft Llama 2 open source, waardoor meer ontwikkelaars de mogelijkheden kunnen benutten.
- Llama 2 wordt nu ondersteund op Azure en Windows.
- De tool zal ook beschikbaar zijn voor AWS, Hugging Face en meer.
Microsoft hield onlangs zijn jaarlijkse Inspire-evenement, waarbij verschillende aankondigingen werden gedaan, waaronder de kosten voor Microsoft 365 Copilot, Visueel zoeken in Bing Chat, En Bing Chat Enterprise. Afgezien van deze ontwikkelingen kondigde het bedrijf ook zijn verlengde samenwerking met Meta aan.
Met de verlenging van deze langdurige samenwerking, de Llama 2-familie van grote taalmodellen (LLM's) wordt nu ondersteund op Azure en Windows. Voor degenen die niet bekend zijn: Llama 2 is een tool die is ontworpen om ontwikkelaars te helpen bij het bouwen van AI-aangedreven tools.
AI-modellen zijn echter niet voor iedereen openlijk toegankelijk geweest. Maar met Meta nu open-source Llama 2, zullen meer ontwikkelaars zijn mogelijkheden kunnen benutten om zich in AI te wagen en mogelijk een geheel nieuwe dimensie aan te boren. De toegang tot dergelijke faciliteiten is beperkt, gezien de omvang van de rekenkracht.
Microsoft uitgelegd de voordelen van het partnerschap:
Nu kunnen Azure-klanten de 7B-, 13B- en 70B-parameter Llama 2-modellen eenvoudig en veiliger afstemmen en implementeren op Azure, het platform voor de meest gebruikte frontier- en open modellen. Bovendien wordt Llama geoptimaliseerd om lokaal op Windows te draaien. Windows-ontwikkelaars kunnen Llama gebruiken door zich te richten op de DirectML-uitvoeringsprovider via de ONNX Runtime, waardoor een naadloze workflow mogelijk wordt terwijl ze generatieve AI-ervaringen naar hun toebrengen toepassingen.
Door Llama 2 open te sourcen, kan Meta nu concurreren op een gelijk speelveld met andere belangrijke spelers in de branche, waaronder OpenAI's ChatGPT en meer. Meta verder aangegeven, "Wij geloven dat een open aanpak de juiste is voor de ontwikkeling van de huidige AI-modellen, vooral die in de generatieve ruimte waar de technologie snel evolueert. Door AI-modellen openlijk beschikbaar te maken, kunnen ze iedereen ten goede komen."
Nu hebben meer bedrijven en organisaties toegang tot meer AI-tools via Llama 2, waardoor er meer ruimte ontstaat voor creatie en experiment. Bovendien is Llama 1, Llama 2 in vergelijking met de vorige iteratie geavanceerder omdat het is getraind met 40 procent meer gegevens, inclusief gegevens van openbare online bronnen. Het onderscheidt zich ook van vergelijkbare modellen zoals Falcon en MPT tijdens het uitvoeren van taken zoals coderen, redeneren en meer.
Meta heeft ook aangegeven dat het genomen heeft extra voorzorgsmaatregelen om ervoor te zorgen dat het platform veilig is ondanks dat het open source is. Het was in staat om dit te bereiken door "vijandige aanwijzingen te genereren om de fijnafstemming van het model te vergemakkelijken."
Microsoft heeft ook aangegeven dat de keuze van Meta voor Azure als haar favoriete "strategische cloudprovider" perfect past. Dit komt omdat "het speciaal gebouwde AI-supercomputerplatform van Azure uniek is ontworpen vanuit de faciliteit, hardware en software om 's werelds toonaangevende AI-organisaties te ondersteunen bij het bouwen, trainen en implementeren van enkele van de meest veeleisende AI werkdruk."
Bovendien merkte Microsoft op dat de integratie van Llama 2-modellen in Windows het platform een ideale plek maakt voor ontwikkelaars om AI-ervaringen te bouwen die zijn ontworpen om aan de behoeften van de gebruikers te voldoen, aangezien ze ook toegang hebben tot essentiële tools zoals Windows Subsystem for Linux (WSL), Windows terminal, Microsoft Visual Studio en VS Code.
Naast Azure gaf Meta aan dat Llama 2 beschikbaar zal zijn via Amazon Web Services, Hugging Face en meer.