Microsoft og Meta utvider AI-partnerskapet sitt med Llama 2 på Azure og Windows
Hva du trenger å vite
- Microsoft og Meta utvider sitt langvarige partnerskap.
- Meta har åpen kildekode Llama 2, slik at flere utviklere kan utnytte mulighetene.
- Llama 2 støttes nå på Azure og Windows.
- Verktøyet vil også være tilgjengelig på tvers av AWS, Hugging Face og mer.
Microsoft holdt nylig sitt årlige Inspire-arrangement, og kom med flere kunngjøringer, inkludert kostnad for Microsoft 365 Copilot, Visuelt søk i Bing Chat, og Bing Chat Enterprise. Bortsett fra denne utviklingen kunngjorde selskapet også sitt utvidede partnerskap med Meta.
Med utvidelsen av dette langvarige partnerskapet, Llama 2-familien av store språkmodeller (LLM) vil nå støttes på Azure og Windows. For de som ikke er kjent, er Llama 2 et verktøy som er utviklet for å hjelpe utviklere med å bygge AI-drevne verktøy.
Imidlertid har AI-modeller ikke vært åpent tilgjengelige for alle. Men med Meta som nå åpner Llama 2, vil flere utviklere kunne utnytte evnene til å begi seg ut i AI og muligens ta seg inn i en helt ny dimensjon. Tilgang til slike fasiliteter har vært begrenset, tatt i betraktning størrelsen på datakraften.
Microsoft forklarte fordelene med partnerskapet:
Nå kan Azure-kunder finjustere og distribuere Llama 2-modellene med 7B, 13B og 70B-parametere enkelt og sikrere på Azure, plattformen for de mest brukte frontier- og åpne modellene. I tillegg vil Llama bli optimalisert for å kjøre lokalt på Windows. Windows-utviklere vil kunne bruke Llama ved å målrette DirectML-utførelsesleverandøren gjennom ONNX Runtime, som tillater en sømløs arbeidsflyt når de gir generative AI-opplevelser til deres applikasjoner.
Ved å åpne Llama 2 kan Meta nå konkurrere på en jevn spilleplass med andre nøkkelaktører i bransjen, inkludert OpenAIs ChatGPT og mer. Meta indikerte videre, "Vi tror en åpen tilnærming er den rette for utviklingen av dagens AI-modeller, spesielt de i det generative rommet hvor teknologien går raskt fremover. Ved å gjøre AI-modeller tilgjengelig åpent, kan de være til nytte for alle."
Nå kan flere bedrifter og organisasjoner få tilgang til flere AI-verktøy via Llama 2, og dermed skape mer rom for å lage og eksperimentere. I tillegg, sammenlignet med den forrige iterasjonen, Llama 1, er Llama 2 mer avansert fordi den ble trent ved å bruke 40 prosent mer data, inkludert data fra offentlige nettkilder. Den skiller seg også ut fra lignende modeller som Falcon og MPT mens den utfører oppgaver som koding, resonnement og mer.
Meta har også indikert at det har tatt ekstra forholdsregler for å sikre at plattformen er sikker til tross for at den er åpen kildekode. Det var i stand til å oppnå dette ved å "generere motstridende meldinger for å lette modellfinjustering."
Microsoft har også indikert at Meta velger Azure som sin foretrukne "strategiske skyleverandør" passer perfekt. Dette er fordi "Azures spesialbygde AI supercomputing-plattform er unikt designet fra anlegget, maskinvaren og programvare for å støtte verdens ledende AI-organisasjoner for å bygge, trene og distribuere noen av de mest krevende AI arbeidsbelastning."
I tillegg bemerket Microsoft at inkorporeringen av Llama 2-modeller i Windows gjør plattformen til et ideelt sted for utviklere å bygge AI-opplevelser som er designet for å møte behovene til brukerne siden de også vil ha tilgang til viktige verktøy som Windows Subsystem for Linux (WSL), Windows-terminal, Microsoft Visual Studio og VS Kode.
Foruten Azure indikerte Meta at Llama 2 vil være tilgjengelig på tvers av Amazon Web Services, Hugging Face og mer.