Pengenalan Streaming Agents: Solusi Baru untuk Agen AI di Confluent Cloud
Confluent, Inc, perusahaan yang menjadi pelopor dalam data streaming, hari ini meluncurkan fitur baru bernama Streaming Agents. Fitur ini merupakan bagian dari Confluent Cloud dan dirancang khusus untuk Apache Flink. Streaming Agents bertujuan untuk mempermudah pengembangan dan skalabilitas agen AI yang mampu memantau, menganalisis, serta bertindak berdasarkan data real-time.
Fitur ini menghilangkan hambatan utama dalam penerapan AI berbasis agen di tingkat perusahaan. Dengan mengintegrasikan pemrosesan data dan alur kerja AI, Streaming Agents menyediakan koneksi yang mudah dan aman ke berbagai bagian bisnis, termasuk Large Language Models (LLMs), model embedding, alat, dan sistem lainnya. Hal ini mempercepat adopsi AI berbasis agen, meningkatkan efisiensi alur kerja, mempercepat waktu implementasi, serta menciptakan peluang bisnis baru yang inovatif.
Peran Streaming Agents dalam Penerapan AI Berbasis Agen
“AI yang berorientasi pada tindakan agentic AI ada di peta jalan setiap organisasi. Namun, kebanyakan perusahaan terjebak dalam fase prototipe yang tak kunjung selesai, sehingga tertinggal, sedangkan yang lain berlomba menuju hasil yang dapat diukur,” ujar Shaun Clowes, Chief Product Officer di Confluent.
Menurut Clowes, bahkan agen AI yang paling cerdas pun akan bekerja tanpa arah jika tidak memiliki konteks bisnis yang terbaru. Streaming Agents membantu menyelesaikan pekerjaan rumit dalam mengintegrasikan alat dan data yang menciptakan kecerdasan sejati. Dengan demikian, organisasi mendapatkan landasan yang kokoh untuk menerapkan agen AI yang mendorong perubahan berarti di seluruh bisnis.
Penelitian IDC menunjukkan bahwa meskipun organisasi menjalankan rata-rata 23 uji coba konsep AI generatif antara tahun 2023 dan 2024, hanya tiga di antaranya yang mencapai tahap produksi. Dari jumlah tersebut, hanya 62% yang memenuhi harapan. Hal ini menunjukkan bahwa banyak perusahaan kesulitan dalam mengimplementasikan AI berbasis agen secara efektif.
Tantangan dalam Mengintegrasikan Data Real-Time ke dalam Agen AI
Agen AI membutuhkan akses ke berbagai tools dan data, tetapi alur kerja saat ini sangat kompleks dan mahal, menghambat bisnis untuk memanfaatkan nilai penuh dari AI agen. Meskipun kerangka kerja AI yang ada memudahkan untuk memulai dengan agen, banyak perusahaan kesulitan mengintegrasikan data real-time ke dalam inisiatif AI agen, yang mengakibatkan respons yang tidak akurat dan tidak dapat diandalkan.
“Meskipun sebagian besar perusahaan sedang berinvestasi dalam AI yang bersifat otonom, arsitektur data mereka tidak mampu mendukung kemampuan pengambilan keputusan otonom yang dibutuhkan oleh sistem-sistem ini,” kata Stewart Bond, Wakil Presiden Divisi Perangkat Lunak Intelijen dan Integrasi Data di IDC.
Bond menyarankan agar organisasi memprioritaskan solusi AI otonom yang menawarkan integrasi yang mudah dan aman, serta memanfaatkan data real-time untuk konteks yang diperlukan dalam mengambil tindakan cerdas.
Membangun dan Meningkatkan Agen AI Real-Time dengan Streaming Agents
Streaming Agents mengintegrasikan AI berbasis agen langsung ke dalam pipa pemrosesan streaming untuk membantu perusahaan membangun, mengimplementasikan, dan mengoordinasikan agen berbasis peristiwa menggunakan Apache Kafka dan Apache Flink.
Dengan menggabungkan pemrosesan data dan penalaran AI, agen mendapatkan akses ke data kontekstual terbaru dari sumber real-time untuk beradaptasi dengan cepat dan berkomunikasi dengan agen dan sistem lain saat kondisi berubah. Streaming Agents selalu aktif dan bekerja atas nama bisnis, beroperasi secara dinamis, memproses aliran data bervolume tinggi, dan merespons sinyal real-time secara instan dengan penalaran yang sadar konteks, layaknya operator manusia.
Contohnya, Streaming Agents dapat melakukan penetapan harga kompetitif dengan memantau harga secara terus-menerus di berbagai situs e-commerce dan secara otomatis memperbarui harga produk di situs pengecer untuk mencerminkan penawaran paling kompetitif bagi pelanggan.
Fitur Utama Streaming Agents
Beberapa fitur utama dari Streaming Agents antara lain:
- Alat Panggilan untuk otomatisasi konteks: Melalui Model Context Protocol (MCP), agen dapat memilih alat eksternal yang tepat, seperti basis data, perangkat lunak sebagai layanan (SaaS), atau API, untuk mengambil tindakan yang berarti.
- Koneksi untuk keamanan integrasi: Hubungkan secara aman ke model, basis data vektor, dan MCP langsung menggunakan Flink.
- Tabel Eksternal dan Pencarian untuk Meningkatkan Akurasi AI: Pastikan data streaming diperkaya dengan sumber data non-Kafka, seperti basis data relasional dan REST APIs.
- Kemampuan untuk memutar ulang untuk iterasi dan keamanan: Agen dapat dikembangkan dan dievaluasi menggunakan data nyata tanpa efek samping langsung.
Streaming Agents tersedia hari ini dalam pratinjau terbuka.
