Percakapan, Sesi & Responder

Bagaimana responder menyusun konteks, mengambil pengetahuan, membangun prompt, menjalankan pemeriksaan keamanan, dan mengembalikan jawaban cepat yang dikutip — alur end-to-end di balik setiap interaksi pelanggan.

Apa Fitur Ini?

Di jantung setiap interaksi dengan agen AI Anda adalah responder — mesin yang mengambil pertanyaan pengguna, menemukan informasi yang paling relevan dari basis pengetahuan Anda, dan menghasilkan jawaban yang jelas, akurat, dan dikutip. Penjelasan mendalam ini menjelaskan bagaimana proses itu bekerja dari awal hingga akhir, apa yang membuatnya cepat dan dapat diandalkan, dan langkah-langkah pengaman yang ada untuk memastikan kualitas dan keamanan. Memahami fitur ini membantu Anda menghargai fondasi teknis di balik setiap percakapan yang dilakukan pelanggan Anda.

Mengapa Ini Penting untuk Bisnis Anda

Kualitas agen AI Anda dinilai percakapan demi percakapan. Pengguna membentuk opini dengan cepat — jika respons lambat, samar, atau salah fakta, mereka berhenti mempercayai agen tersebut. Jika responsnya cepat, akurat, dan bersumber baik, agen tersebut menjadi sangat penting.

Kualitas respons adalah produk Anda. Setiap perbaikan pada responder — akurasi kutipan yang lebih baik, latensi yang lebih rendah, pengambilan yang lebih relevan — secara langsung meningkatkan apa yang dialami pelanggan.
Traceability berarti Anda dapat memperbaiki. Ketika respons salah atau lambat, Anda perlu tahu mengapa. Setiap permintaan dilacak dari awal hingga akhir, sehingga tim Anda dapat mendiagnosis dengan tepat di mana sesuatu salah.
Keamanan dibangun di dalamnya. Respons melewati pemeriksaan keamanan sebelum dikembalikan kepada pengguna. Jika respons memicu kekhawatiran, itu ditangani dengan baik — pengguna mendapatkan fallback yang sesuai, bukan output yang membingungkan atau berbahaya.
Ketahanan terhadap pemadaman. Jika penyedia AI utama mengalami masalah, sistem secara otomatis beralih ke alternatif — meminimalkan gangguan bagi pelanggan Anda.

Bagaimana Sebuah Percakapan Bekerja (Tanpa Jargon Teknis)

Ketika seorang pengguna mengirim pesan, berikut adalah yang terjadi — biasanya dalam waktu kurang dari satu detik:

Pesan tiba. Sistem memvalidasi bahwa pengguna adalah siapa yang mereka katakan dan bahwa mereka diizinkan menggunakan agen ini.

Konteks disusun. Sistem melihat riwayat percakapan terbaru untuk memahami konteks penuh dari pertanyaan — bukan hanya pesan terbaru secara terpisah.

Pengetahuan yang relevan diambil. Agen mencari basis pengetahuan Anda untuk konten yang paling relevan. Inilah cara ia dapat memberikan jawaban yang spesifik dan akurat daripada respons umum. Ia mengembalikan potongan yang paling cocok, diurutkan berdasarkan relevansi.

Prompt dibangun. Pengetahuan yang diambil, riwayat percakapan, dan instruksi spesifik agen digabungkan menjadi prompt yang disusun dengan hati-hati yang dikirim ke model AI.

AI menghasilkan respons. Model menghasilkan jawaban. Jika memakan waktu terlalu lama atau mengembalikan kesalahan, sistem secara otomatis mencoba lagi atau beralih ke model alternatif.

Pemeriksaan keamanan dijalankan. Respons diperiksa terhadap filter keamanan sebelum dikembalikan.

Kutipan dilampirkan. Jika jawaban mengacu pada dokumen tertentu dalam basis pengetahuan Anda, sumber tersebut dilampirkan pada respons — sehingga pengguna tahu dari mana informasi itu berasal dan dapat memverifikasinya.

Respons dikembalikan. Pengguna melihat jawaban, dengan sumber, biasanya dalam waktu kurang dari satu detik.

Apa yang Baik

Responder yang berfungsi dengan baik menghasilkan respons yang:

Menyebutkan sumbernya. Setiap klaim faktual didukung oleh tautan ke dokumen spesifik dari mana ia berasal.
Cepat. Target waktu respons adalah di bawah 800ms untuk sebagian besar kueri.
Menurun dengan baik. Jika penyedia AI tidak tersedia, pengguna melihat pesan jelas "silakan coba lagi" daripada pengalaman yang rusak.
Aman. Konten yang berpotensi berbahaya atau tidak pantas disaring secara otomatis.

Untuk Tim Operasi Anda

Setiap permintaan menghasilkan jejak — catatan lengkap yang diberi cap waktu dari setiap langkah: apa yang diambil, apa yang dikirim ke AI, apa yang dikembalikan AI, pemeriksaan keamanan yang dijalankan, dan apa respons akhir. Jejak ini disimpan selama 7 hari dan dapat dicari. Ketika seorang pelanggan melaporkan respons yang buruk, tim Anda dapat menemukan jejak yang tepat dan memahami dengan tepat apa yang terjadi.

Metrik kunci yang dapat dipantau tim Anda:
- Waktu respons (target: di bawah 800ms pada persentil ke-95)
- Akurasi kutipan (target: lebih dari 85% kueri yang dievaluasi mencakup kutipan yang benar)
- Tingkat kesalahan (seberapa sering permintaan gagal dan mengapa)
- Aktivitas filter keamanan (seberapa sering konten ditandai dan jenis apa)

Apa yang Diharapkan di Peta Jalan

Tim sedang membangun:

Pelacakan penuh dari awal hingga akhir untuk setiap permintaan (perkiraan 2 minggu)
Mode evaluasi filter keamanan — di mana filter dijalankan tetapi belum memblokir, memungkinkan kalibrasi (perkiraan 3 minggu)
Responder cadangan yang sepenuhnya teruji untuk pemadaman penyedia (perkiraan 4 minggu)

Peningkatan ini membuat responder lebih transparan, lebih dapat diandalkan, dan lebih mudah dioperasikan — memberi tim Anda alat untuk memelihara dan terus meningkatkan kualitas percakapan.