Zona Gadget
– Perusahaan induk Facebook, WhatsApp, dan lainnya, yaitu Meta, meluncurkan API dari model bahasa besar (Large Language Model/LLM) yang disebut Llama. API Llama diumumkan selama Konferensi Pengembang Kecerdasan Buatan pertama Meta, bernama LlamaCon, pada hari Selasa, 29 April 2025, sesuai dengan zona waktu AS.
API (Interface Pemrograman Aplikasi) pada dasarnya adalah fasilitas yang memungkinkan pembuat aplikasi mengintegrasikan teknologi spesifik ke dalam produk mereka sendiri.
Pada kasus seperti itu, para pembuat aplikasi bisa menggunakan API Llama guna mengembangkan program yang sudah terintegrasi dengan model kecerdasan buatan tersebut.
“Kini Anda dapat mengaktifkan LLama hanya dengan satu baris kode,” ujar Chief Product Officer (CFO) Meta, Chris Cox.
API Llama diluncurkan oleh Meta yang berkolaborasi dengan Cerebras Systems. Secara nyata, Cerebras menghadirkan teknologinya untuk hal ini.
chip
AI guna memperbaiki model Llama bagi para pembuat.
Berkat kerja sama ini, API Llama menawarkan kecepatan inferensi (proses model AI mempelajari, memutuskan, mempredisksi atau menyimpulkan data) hingga 18 kali lebih cepat dibanding solusi berbasis GPU tradisional.
Sistem Cerebras juga membuat Llama 4 (versi terbaru Llama) dapat memproses 2.600 token per detik. Pencapaian ini lebih tinggi dibanding ChatGPT 130 token per detik atau DeepSeek sekitar 25 token per detik, sebagaimana hasil benchmark Artificial Analysis.
“Bila Anda hanya membandingkan API dengan API, Gemini dan GPT, semuanya merupakan model yang hebat tetapi berjalan pada kecepatan GPU yang kira-kira menghasilkan 100 token per detik,” kata eksekutif senior Cerebras, James Wang.
“100 token per detik sudah cukup baik untuk percakapan, namun terlalu lambat untuk proses berpikir. Terlebih lagi bagi agen-agen tersebut. Sementara banyak orang sekarang tengah mencoba meningkatkannya,” jelasnya.
Dengan kecepatan yang begitu cepat itu, API Llama bisa digunakan untuk mengembangkan aplikasi-aplikasi terbaru, seperti misalnya asisten virtual.
real-time
Sistem audio berlatensi rendah, pengkodean interaktif, serta hal-hal serupa dapat dibuat dalam hitungan detik.
Rilis API Llama menjadi penanda entry Meta ke industri komputasi AI sebab ini menjadikannya sebuah produk yang bisa diperjualbelikan.
Selama ini, Llama dapat digunakan secara open source dan бесплатно hingga mencapai unduhan sebanyak 1,2 miliar kali. Namun demikian, perusahaan induk Facebook tersebut belum mengungkapkan detail tentang harga API untuk Llama versi berkecepatan tinggi yang baru diluncurkan, seperti dikumpulkan
KompasTekno
dari
VentureBeat,
Rabu (30/4/2025).
Meta Llama diunduh 1,2 miliar kali
Dalam kesempatan yang sama Meta juga mengumumkan bahwa model AI Llama sudah diunduh 1,2 miliar kali per Maret 2025.
Angka tersebut hampir berlipat ganda, melihat bahwa pada Desember 2024 kemarin, perusahaan induk Facebook itu telah mengumumkan bahwa model AI tersebut sudah diunduh sebanyak 650 juta kali.
“Kami memiliki ribuan pengembang yang menyumbangkan puluhan ribu model turunan yang diunduh ratusan ribu kali sebulan,” kata Chris Cox.
Dia pun menuturkan bahwa asisten AI, Meta AI besutan Meta telah meraih kira-kira satu miliar pemakai, demikian diinformasikan oleh sumber tersebut.
TechCrunch
.
