Pembaruan Penting dalam Pengembangan AI: Streaming Agents di Confluent Cloud
Confluent, sebuah perusahaan teknologi yang fokus pada pengelolaan data real-time, baru-baru ini meluncurkan fitur terbaru bernama Streaming Agents di Confluent Cloud. Fitur ini dirancang untuk mempermudah pengembangan dan skalabilitas agen AI yang mampu memantau, menganalisis, serta bertindak berdasarkan data real-time.
Streaming Agents memiliki kemampuan untuk menyederhanakan penerapan AI berbasis agen di tingkat perusahaan dengan menggabungkan pemrosesan data dan alur kerja AI. Dengan adanya fitur ini, perusahaan dapat menghubungkan berbagai elemen bisnis secara mudah dan aman, mulai dari Large Language Models (LLMs), model embedding, hingga berbagai alat dan sistem pendukung lainnya.
Fitur ini juga mempercepat adopsi AI berbasis agen, sehingga memungkinkan alur kerja yang lebih efisien dan implementasi yang lebih cepat. Selain itu, Streaming Agents membuka peluang bagi terciptanya model bisnis dan inovasi yang benar-benar baru.
Shaun Clowes, Chief Product Officer di Confluent, menjelaskan bahwa AI berbasis agen sudah menjadi bagian dari rencana strategis setiap organisasi. Namun, banyak perusahaan masih terjebak dalam fase prototipe yang tidak selesai, sehingga ketinggalan dari pesaing. Di sisi lain, beberapa perusahaan berlomba mencapai hasil yang bisa diukur.
Menurut Clowes, bahkan agen AI yang paling cerdas pun akan kesulitan jika tidak memiliki konteks bisnis yang terkini. Streaming Agents hadir sebagai solusi untuk mengintegrasikan alat dan data, menciptakan kecerdasan yang nyata, serta memberikan dasar yang kuat bagi penggunaan agen AI yang mendorong perubahan signifikan dalam bisnis.
Studi IDC menunjukkan bahwa meskipun rata-rata organisasi melakukan 23 uji coba konsep AI generatif selama 2023-2024, hanya tiga yang berhasil masuk ke tahap produksi. Dari jumlah tersebut, hanya 62 persen yang sesuai dengan ekspektasi.
Agen AI memiliki potensi besar karena aksesnya ke berbagai alat dan data. Namun, alur kerja yang rumit dan mahal membuat bisnis kesulitan memaksimalkan nilai AI berbasis agen. Meski kerangka kerja AI cukup membantu untuk memulai penggunaan agen, banyak perusahaan menghadapi tantangan dalam mengintegrasikan data real-time, sehingga menghasilkan respons yang tidak akurat dan kurang dapat diandalkan.
Stewart Bond, Wakil Presiden Divisi Perangkat Lunak Intelijen dan Integrasi Data di IDC, menambahkan bahwa meskipun sebagian besar perusahaan sedang berinvestasi dalam AI yang bersifat otonom, arsitektur data mereka tidak mampu mendukung kemampuan pengambilan keputusan otonom yang dibutuhkan oleh sistem-sistem ini.
Fitur Utama Streaming Agents
Tool Calling untuk Otomatisasi Konteks
Melalui Model Context Protocol (MCP), agen dapat memilih dan memanggil alat eksternal yang sesuai, seperti database, layanan SaaS, atau API, untuk menjalankan tindakan yang relevan. Proses ini mempertimbangkan kondisi bisnis serta aktivitas dari sistem maupun agen lain.Koneksi Aman untuk Integrasi
Streaming Agents menyediakan koneksi langsung dan terlindungi ke model, database vektor, serta MCP menggunakan Flink. Kredensial sensitif tetap aman, sementara koneksi dapat digunakan kembali lintas tabel, model, dan fungsi, serta dikelola secara terpusat untuk mendukung implementasi berskala besar.Tabel Eksternal & Pencarian untuk Akurasi AI
Data streaming diperkaya dengan sumber non-Kafka seperti database relasional atau REST API sehingga memberikan gambaran data yang lebih lengkap dan terkini. Hal ini meningkatkan akurasi keputusan AI, pencarian vektor, serta retrieval-augmented generation (RAG), sekaligus menekan biaya dan kompleksitas lewat Flink SQL serta dukungan keamanan dan jaringan dari Confluent Cloud.Replay untuk Literasi & Keamanan
Agen dapat diuji dan dikembangkan menggunakan data nyata tanpa menimbulkan dampak langsung. Fitur ini mendukung peluncuran terbatas (silent launch), uji A/B, serta iterasi yang lebih cepat.
