Microsoft och Meta utökar sitt AI-partnerskap med Llama 2 på Azure och Windows
Vad du behöver veta
- Microsoft och Meta utökar sitt mångåriga partnerskap.
- Meta har öppen källkod Llama 2, vilket gör att fler utvecklare kan utnyttja dess kapacitet.
- Llama 2 stöds nu på Azure och Windows.
- Verktyget kommer också att finnas tillgängligt i AWS, Hugging Face och mer.
Microsoft höll nyligen sitt årliga Inspire-evenemang och gjorde flera tillkännagivanden, inklusive kostnad för Microsoft 365 Copilot, Visuell sökning i Bing Chat, och Bing Chat Enterprise. Bortsett från denna utveckling tillkännagav företaget också sitt utökade partnerskap med Meta.
Med förlängningen av detta långvariga partnerskap, Llama 2-familjen av stora språkmodeller (LLM) kommer nu att stödjas på Azure och Windows. För de som inte känner till är Llama 2 ett verktyg som är utformat för att hjälpa utvecklare att bygga AI-drivna verktyg.
AI-modeller har dock inte varit öppet tillgängliga för alla. Men med Meta som nu öppnar Llama 2 kommer fler utvecklare att kunna dra nytta av dess kapacitet för att ge sig in i AI och eventuellt utnyttja en helt ny dimension. Tillgången till sådana anläggningar har varit begränsad, med tanke på storleken på datorkraften.
Microsoft förklarade fördelarna med partnerskapet:
Nu kan Azure-kunder finjustera och distribuera 7B, 13B och 70B-parameter Llama 2-modeller enkelt och säkrare på Azure, plattformen för de mest använda frontier- och öppna modellerna. Dessutom kommer Llama att optimeras för att köras lokalt på Windows. Windows-utvecklare kommer att kunna använda Llama genom att rikta in sig på DirectML-exekveringsleverantören via ONNX Runtime, vilket möjliggör ett sömlöst arbetsflöde när de ger generativa AI-upplevelser till sina applikationer.
Genom att öppna Llama 2 kan Meta nu konkurrera på en jämn spelplan med andra nyckelspelare i branschen, inklusive OpenAI: s ChatGPT och mer. Meta indikerade vidare, "Vi tror att ett öppet tillvägagångssätt är det rätta för utvecklingen av dagens AI-modeller, särskilt de i det generativa utrymmet där tekniken går snabbt framåt. Genom att göra AI-modeller tillgängliga öppet kan de gynna alla."
Nu kan fler företag och organisationer få tillgång till fler AI-verktyg via Llama 2, vilket skapar mer utrymme för skapande och experimenterande. Dessutom, jämfört med dess tidigare iteration, Llama 1, är Llama 2 mer avancerad eftersom den tränades med 40 procent mer data, inklusive data från offentliga onlinekällor. Den skiljer sig också från liknande modeller som Falcon och MPT när den utför uppgifter som kodning, resonemang och mer.
Meta har också indikerat att det har tagit extra försiktighetsåtgärder för att säkerställa att plattformen är säker trots att den är öppen källkod. Det kunde uppnå detta genom att "generera motstridiga uppmaningar för att underlätta modellfinjustering."
Microsoft har också indikerat att Meta väljer Azure som sin föredragna "strategiska molnleverantör" passar perfekt. Detta beror på att "Azures specialbyggda AI-superdatorplattform är unikt designad utifrån anläggningen, hårdvaran och programvara för att stödja världens ledande AI-organisationer att bygga, träna och distribuera några av de mest krävande AI arbetsbelastning."
Dessutom noterade Microsoft att införlivandet av Llama 2-modeller i Windows gör plattformen till en idealisk plats för utvecklare att bygga AI-upplevelser som är designade för att möta användarnas behov eftersom de också kommer att ha tillgång till viktiga verktyg som Windows Subsystem for Linux (WSL), Windows terminal, Microsoft Visual Studio och VS Koda.
Förutom Azure indikerade Meta att Llama 2 kommer att finnas tillgängligt på Amazon Web Services, Hugging Face och mer.