Pusat Panduan & Dokumentasi Restly

Temukan penjelasan lengkap mengenai cara kerja, pengelolaan menu, kegunaan setiap kolom input, serta panduan integrasi sistem Restly.

Overview Dashboard (Ringkasan)

Pemantauan Kesehatan & Kerangka Kerja Orkestrasi Multi-Agen

Halaman utama untuk memantau kesehatan server, penggunaan kuota token LLM, total obrolan aktif, serta status koneksi Redis dan Qdrant.

Halaman Overview Dashboard adalah pusat pemantauan kondisi sistem Restly Anda secara real-time. Halaman ini menyajikan metrik kesehatan server, statistik penggunaan token LLM, status data cache, serta daftar lengkap agen dan data cache Anda yang sedang aktif.

1. Status Sistem & Sinkronisasi (Header):

Di bagian kanan atas terdapat indikator status komponen utama:

  • API Online: Menandakan server backend FastAPI berjalan dengan normal.
  • Redis Connected: Menandakan database in-memory Redis aktif untuk mempercepat respons chat.
  • Qdrant Connected: Menandakan database vektor Qdrant siap untuk pencarian semantik dokumen.

Sinkronisasi Qdrant: Tombol khusus untuk memaksa server menyalin ulang data terupdate dari API eksternal Anda ke database vektor Qdrant agar asisten AI mendapatkan data paling segar.

Real-Time Progress Bar: Ketika sinkronisasi berjalan, bar kemajuan akan muncul secara real-time untuk memantau status tiap alat (SYNCING, SUCCESS, atau FAILED).

2. Kartu Metrik Statistik (Stats Cards):

Terdapat 8 kartu metrik utama untuk pemantauan sistem:

Agen Restly:

Jumlah total agen kecerdasan buatan Anda yang terdaftar.

Total Tugas Log:

Akumulasi jumlah baris riwayat obrolan di database.

Redis Cache Kunci:

Jumlah key sesi chat aktif dan total memori Redis yang digunakan.

Qdrant Cache:

Jumlah point vektor index dan kapasitas memori Qdrant.

Batas Token:

Akumulasi penggunaan token API Gemini terhadap kuota batas 5.0M token.

Rata-rata Latensi:

Kecepatan waktu respons rata-rata server AI saat membalas chat.

Rata-rata Token:

Jumlah rata-rata pemakaian token yang dihabiskan per sesi obrolan.

Rasio Cache Hit:

Persentase chat yang dijawab langsung dari cache untuk menghemat token LLM.

3. Grafik Aktivitas & Tabel Detail:

Grafik Aktivitas (24 Jam): Visualisasi bar chart jumlah chat masuk per jam lengkap dengan tooltip detail log & token saat kursor diarahkan (hover).

Tabel Status Agen: Daftar seluruh agen beserta rute folder, model AI yang digunakan, jumlah chat yang dilayani, deskripsi, dan status operasionalnya.

Tabel Detail Vektor Qdrant: Rincian koleksi database vektor, nama tool terkait, jumlah poin data, dan ukuran kapasitas memori.

Tabel Detail Kunci Redis: Audit real-time kunci cache sesi obrolan beserta tipe data dan sisa waktu kadaluarsa (TTL).

Restly Agent (Kelola Agen AI)

Membuat & Mengonfigurasi Asisten Virtual

Tempat untuk mendaftarkan, mengedit, memilih model kecerdasan buatan, dan mengamankan Kunci API (API Key) asisten virtual Anda.

Menu Kelola Agen Restly digunakan untuk membuat, mengonfigurasi, dan mengelola asisten virtual (Agen AI) Anda. Di sini Anda dapat menentukan nama agen, model kecerdasan buatan, serta mengamankan kredensial API Key.

1. Pencarian, Filter, & Navigasi:

Pencarian Cepat: Kotak pencarian di kiri atas memungkinkan Anda mencari agen secara cepat berdasarkan nama agen atau folder slug.

Penyaringan Status: Anda dapat menyaring daftar agen berdasarkan status operasionalnya: Semua Status, Aktif, Nonaktif, atau Pemeliharaan.

2. Parameter Pembuatan & Pengubahan Agen:

Nama Agen & Nama Folder (Slug):

Nama formal agen AI Anda. Saat membuat agen baru, sistem akan otomatis menghasilkan Nama Folder (Slug) unik berbasis huruf kecil dan tanda hubung (hyphen) dari nama agen tersebut. Folder slug ini menjadi rute teknis akses chat (contoh: /cs-penjualan) dan tidak dapat diubah setelah dibuat.

Model LLM (Model Kecerdasan Buatan):

Pilih model kecerdasan buatan dari Google Gemini atau Gemma. Anda juga dapat memilih opsi Kustom Model ID... untuk memasukkan model ID lain secara manual jika diperlukan.

Gemini API Key:

Token akses resmi Anda dari Google AI Studio. Restly secara otomatis mengamankan kunci ini menggunakan enkripsi standar AES-256 (Encryption at Rest). Anda dapat menekan tombol ikon mata untuk melihat/menyembunyikan isian.

Status Pemeliharaan (Maintenance):

Dapat diatur saat mengedit agen. Jika diubah menjadi True, agen tersebut akan menampilkan status "Maintenance" berwarna jingga dan memblokir sementara akses interaksi publik.

3. Tindakan Pengelolaan:

Setiap kartu agen dilengkapi dengan dua tombol aksi di pojok kanan bawah:

  • Ikon Edit: Membuka form edit untuk mengubah deskripsi, model LLM, API Key, atau mengubah status pemeliharaan.
  • Ikon Hapus: Menghapus agen beserta rute folder-nya secara permanen dari server.

Restly Tool (Koneksi API / Alat)

Menghubungkan Agen AI dengan Sistem Eksternal Anda

Menghubungkan Agen AI dengan data kamu atau API eksternal agar agen bisa mencari produk, memanggil transaksi, atau mengecek data eksternal dan menghubungkan custom tools Anda sebagai dynamic API endpoints for LLM secara instan.

Menu Konfigurasi Alat Dinamis digunakan untuk menghubungkan Agen AI dengan sumber data eksternal. Dengan fitur ini, Agen AI dapat beraksi seperti melakukan RAG (pencarian dokumen internal/SOP) atau memanggil API eksternal milik sistem Anda secara dinamis.

1. Pencarian, Filter, & Navigasi:

Pencarian Cepat: Cari alat secara instan berdasarkan nama alat atau deskripsi fungsinya.

Filter Agen & Status: Saring daftar alat berdasarkan Agen AI Target yang memilikinya, atau berdasarkan status operasionalnya (Aktif atau Tidak Aktif).

2. Parameter Pembuatan & Pengubahan Alat:

Nama Alat :

Nama fungsi teknis yang akan dibaca oleh Model Kecerdasan Buatan (LLM). Sistem secara otomatis membersihkan input menjadi format huruf kecil tanpa spasi (menggunakan garis bawah, contoh: cek_stok_barang).

Tipe Skema (Schema Type) & Contoh Parameter:

Menentukan jenis integrasi alat. Berikut adalah 4 pilihan beserta panduan pengisian parameternya:

1. RAG (Vektor Memori)

Digunakan untuk melatih AI dengan dokumen pengetahuan atau SOP internal. Anda dapat mengunggah file langsung (.pdf, .txt, .docx, .xlsx) untuk diekstrak teksnya secara otomatis, yang kemudian disimpan ke dalam database vektor Qdrant.

2. Custom (Bawaan / Key-Value Sederhana)

Pemetaan parameter sederhana di mana setiap key bernilai deskripsi string untuk memandu AI. Menghasilkan parameter bertipe string dan opsional.

{
  "nama_barang": "Nama barang yang dicari pembeli",
  "kategori": "Kategori produk (opsional)"
}
3. Dynamic (Struktur Objek Fleksibel)

Memungkinkan pengaturan tipe data spesifik (string|integer|number|boolean), status wajib (required), deskripsi, dan nilai default.

{
  "kategori": {
    "type": "string",
    "description": "Nama kategori produk",
    "required": true
  },
  "limit": {
    "type": "integer",
    "description": "Jumlah limit data pencarian",
    "required": false,
    "default": 10
  }
}
4. JSON Schema (Standar Industri Formal)

Format standar spesifikasi JSON Schema dengan wrapper objek properties dan list required untuk validasi tingkat tinggi.

{
  "type": "object",
  "properties": {
    "nama_barang": {
      "type": "string",
      "description": "Nama produk yang ingin dicari"
    },
    "max_harga": {
      "type": "number",
      "description": "Batas harga maksimum"
    }
  },
  "required": ["nama_barang"]
}
URL API Endpoint / Konten Data Memori:

Jika menggunakan skema RAG, kolom ini berfungsi sebagai tempat penampung teks dokumen. Jika menggunakan tipe skema lainnya, kolom ini diisi dengan alamat URL API eksternal sistem Anda yang akan dipanggil oleh Restly.

Metode HTTP & Tipe Payload (Khusus API):

Cara Restly mengirim data ke server Anda (seperti metode GET, POST, dll.) serta jenis payload (Form Data atau JSON Body).

  • Vector Cache (Qdrant): Menyalin otomatis respons API ke database vektor Qdrant lokal agar AI dapat mencari data master secara instan melalui pencarian semantik vektor.
  • Mati (Direct API): Selalu memanggil langsung API server Anda secara real-time pada setiap chat.

Restly Prompt (Aturan Sistem)

Mengatur Aturan, Karakter, & Persona AI

Mengatur kepribadian, persona, cara berbicara, serta batasan-batasan perilaku Agen AI yang wajib dipatuhi selama mengobrol.

Menu Editor Prompt Sistem digunakan untuk mengatur petunjuk dasar (System Prompt) yang mendikte perilaku, karakter, cara berbicara, serta batasan pengetahuan dari masing-masing Agen AI Anda.

1. Alur Editor & Antarmuka:

Pilih Agen AI (Sisi Kiri): Daftar seluruh Agen AI Anda ditampilkan di kolom kiri. Klik salah satu agen untuk membuka ruang kerja editor prompt-nya di sisi kanan.

Workspace & Penyimpanan (Sisi Kanan): Tulis instruksi sistem secara mendetail di area textarea. Tekan tombol Simpan Prompt di pojok kanan atas untuk menyimpan perubahan Anda secara langsung ke server.

2. Sistem Penyisipan Variabel Dinamis:

Anda dapat menyisipkan token variabel khusus menggunakan tanda kurung kurawal tunggal { } di dalam teks instruksi Anda. Token ini akan digantikan secara otomatis dan dinamis saat Agen AI dieksekusi oleh sistem:

  • {agent_name}: Akan digantikan dengan nama folder teknis agen aktif saat ini.
  • {tool_list}: Akan digantikan secara otomatis dengan daftar nama beserta deskripsi fungsi teknis dari seluruh alat (Tool) aktif yang dimiliki oleh agen tersebut.

Penting: Pastikan penulisan token menggunakan satu kurung kurawal saja (contoh: {agent_name}, bukan {{agent_name}}) agar dapat diterjemahkan oleh sistem.

3. Panduan Contoh & Template Prompt:

Klik banner informasi Sistem Penyisipan Variabel di bagian atas editor untuk membuka modal bantuan. Di dalamnya, Anda dapat menemukan dan menyalin langsung berbagai template prompt siap pakai untuk berbagai skenario asisten virtual , lengkap dengan tombol penyalinan satu-klik.

Restly Opening (Pesan Sapaan)

Kalimat Penyambut Pembeli Pertama Kali

Editor untuk mengatur pesan sambutan pertama kali saat jendela obrolan dibuka oleh pengguna, lengkap dengan dukungan format Markdown.

Menu Editor Opening Prompt digunakan untuk merancang pesan sapaan pembuka yang akan terkirim secara otomatis ketika pelanggan pertama kali membuka kotak obrolan (chatbox) Agen AI Anda.

1. Alur Kerja Editor:

Pilih Agen AI (Sisi Kiri): Silakan pilih salah satu Agen AI aktif dari daftar di kolom kiri untuk menampilkan area editor pesan pembuka di sebelah kanan.

Menulis & Menyimpan (Sisi Kanan): Ketik kalimat sapaan hangat pada textarea, lalu klik tombol Simpan Opening di pojok kanan atas untuk menyimpan perubahan.

2. Panduan Penulisan & Format Tampilan:

Sapaan awal yang representatif akan memandu pelanggan untuk mengetahui topik apa saja yang dapat ditanyakan. Halaman ini mendukung format Markdown standar agar tampilan pesan terlihat lebih menarik:

Tulisan Tebal (Bold):

Gunakan tanda bintang ganda untuk menegaskan kalimat penting. Contoh: **Selamat datang di Layanan Pelanggan kami!**

Daftar Pilihan (Bullet List):

Gunakan tanda hubung/strip untuk membuat daftar opsi layanan yang dapat dipilih pelanggan. Contoh:

- Ketik 1 untuk Cek Stok Barang
- Ketik 2 untuk Hubungi Admin

Restly Log (Riwayat Chat)

Audit Obrolan & Pelacakan Biaya Token

Halaman riwayat lengkap untuk memantau obrolan pengguna, jawaban AI, biaya pemakaian token, serta data payload JSON untuk perbaikan bug.

Halaman Log Riwayat Percakapan digunakan untuk melakukan audit, evaluasi, serta pemantauan kualitas jawaban dan efisiensi biaya token dari Agen AI Anda secara terperinci.

1. Bilah Pencarian & Navigasi:

Anda dapat mencari kata kunci pesan atau menyaring percakapan tertentu secara instan lewat kolom pencarian di kiri atas. Sistem paginasi di bagian bawah membagi baris log (10 per halaman) agar dasbor tetap rapi.

2. Kolom Ringkasan Log:

Setiap baris percakapan menyajikan informasi ringkas sebagai berikut:

  • Waktu Kejadian: Waktu presisi saat pesan dikirim oleh pengguna.
  • Nama Agen: Identitas rute agen yang melayani percakapan.
  • Pratinjau Pesan & Balasan: Cuplikan teks pesan pengguna dan jawaban AI.
  • Token: Jumlah penggunaan token API untuk mengontrol biaya.
  • Status: Indikator status eksekusi (Sukses).

3. Ekspansi Detail Payload (Debug Mentah):

Tekan tombol ikon panah di sebelah kiri waktu kejadian untuk membuka baris ekspansi. Bagian ini sangat berguna bagi tim pengembang karena menyajikan teks lengkap Pesan Pengguna dan Balasan Agen secara utuh dan terpisah dalam format monospaced.

Restly Tags (Label Kategori)

Mengelompokkan Agen dalam Kelompok Besar

Mengelompokkan agen-agen AI Anda ke dalam label atau tag tertentu agar lebih mudah dicari dan dikelola jika jumlahnya sangat banyak.

Menu Kelola Restly Tags digunakan untuk membuat label kategori yang terasosiasi dengan Agen AI Anda. Kategori ini membantu menyaring informasi, memicu dokumen referensi, atau mengelompokkan percakapan.

1. Ruang Kerja & Pemilihan Agen:

Pilih Agen AI (Sisi Kiri): Klik nama Agen AI pada daftar di kolom kiri untuk menampilkan tags yang terikat dengan agen tersebut di kolom kanan.

Tambah Tag Baru (Header Kanan): Klik tombol ini untuk menampilkan dialog modal pembuatan tag baru.

2. Daftar Tabel & Tindakan:

Kolom kanan menampilkan tabel rangkuman tag dengan rincian berikut:

  • Nama & Ikon Tag: Nama kategori visual beserta ikon representatifnya.
  • Status (Aktif/Nonaktif): Badge status interaktif. Anda dapat mengklik langsung badge status ini untuk mengubah keaktifan tag secara instan tanpa perlu membuka dialog edit.
  • Ikon Pensil: Membuka jendela dialog untuk mengubah nama, ikon, atau status tag.
  • Ikon Tong Sampah: Menghapus tag secara permanen (memerlukan konfirmasi keamanan).

Restly Chat (Simulasi Obrolan)

Uji Coba Langsung Perilaku AI

Ruang uji coba langsung (playground) untuk mencoba mengobrol dengan Agen AI guna memastikan respon dan fungsionalitas alat berjalan normal.

Halaman Simulasi Obrolan adalah ruang uji coba (playground) interaktif untuk menguji respon, kepribadian, serta keaktifan fungsi alat bantu (Tool/RAG) Agen AI Anda sebelum diluncurkan ke publik.

1. Manajemen Sesi Percakapan (Sisi Kiri):

Anda dapat memulai sesi baru menggunakan tombol Chat Baru di pojok kiri atas. Utas obrolan lama Anda akan tersimpan secara otomatis di kolom riwayat sebelah kiri agar Anda dapat memuat kembali riwayat percakapan tersebut sewaktu-waktu.

2. Area Obrolan & Quick Tags (Sisi Tengah):

Pilihan Agen: Anda dapat mengganti agen yang sedang diuji secara instan melalui dropdown pilihan agen di bagian atas kotak chat.

Gelembung Pesan: Percakapan disajikan dalam gelembung pesan yang mendukung pembacaan format Markdown (teks tebal, miring, list, dll.).

Quick Tags (Pertanyaan Cepat): Di bawah kotak input pesan, terdapat tombol-tombol tag cepat dari kategori yang Anda buat. Anda dapat mengkliknya untuk mengirimkan pertanyaan secara instan tanpa perlu mengetik.

3. Pemantau Telemetri Real-Time (Sisi Kanan):

Kolom kanan menyajikan panel telemetri penting untuk mengaudit kinerja AI di balik layar:

  • API Metadata: Menyajikan informasi agen aktif, latensi balasan chat, serta rincian pemakaian token input/output.
  • Exec Tracer: Pelacak eksekusi real-time yang memvisualisasikan pemicuan API luar atau pencarian dokumen di Qdrant yang dijalankan oleh mesin LangGraph.

Restly Config (Setelan Akurasi)

Mengatur Parameter & Sensitivitas Mesin Pencarian Semantik

Mengatur sensitivitas kemiripan data (Similarity Threshold), kolom pencarian database, kolom data untuk LLM, serta kata kunci jalan pintas.

Halaman Restly Config digunakan untuk menyesuaikan sensitivitas pencarian dokumen serta membatasi kolom data yang diizinkan untuk disajikan oleh Agen AI Anda.

1. Ruang Kerja & Pemilihan Agen:

Silakan pilih Agen AI di kolom kiri untuk menampilkan setelan akurasinya di kolom kanan. Klik tombol Simpan Pengaturan setelah Anda selesai mengubah data.

2. Parameter Setelan Akurasi:

Similarity Threshold (Batas Kemiripan):

Slider pengatur kepekaan pencarian vektor semantik (nilai dari 0.0 hingga 1.0). Nilai ideal yang disarankan adalah di rentang 0.70 atau 0.75. Jika disetel terlalu tinggi, AI akan menolak menjawab apabila terdapat sedikit perbedaan huruf. Jika terlalu rendah, AI dapat memanggil dokumen referensi yang kurang relevan.

LLM Display Fields (Kolom Saringan LLM):

Menentukan nama-nama kolom database Anda yang diizinkan untuk dikirim dan dibaca oleh Model Kecerdasan Buatan (LLM). Fitur ini sangat penting untuk mencegah kebocoran data sensitif (seperti password, profit margin, dll.). Pastikan kolom esensial seperti nama_produk dan harga dicantumkan agar AI dapat menginformasikannya ke pelanggan.

Status Konfigurasi (Status Aktif):

Jika diubah menjadi Nonaktif, sistem akan mengabaikan setelan ini dan kembali menggunakan konfigurasi default sistem.

Restly Cache Explorer (Manajemen Cache)

Inspeksi Kunci Sesi & Memori Redis/Qdrant

Memantau kapasitas RAM server, kunci sesi Redis (exact match & checkpoints), serta data ingatan Semantic Cache Qdrant per-Agen.

Halaman Restly Cache Explorer (Pusat Manajemen Cache) menyediakan antarmuka terpadu untuk memantau dua lapisan penyimpanan memori berkecepatan tinggi yang digunakan oleh sistem Agen AI:

1. Tab Redis Cache (Exact Match & Checkpoints):

Conversation Checkpoints: Menyimpan state memori alur percakapan terperinci dari LangGraph secara real-time.

Exact Match Cache: Menyimpan cache jawaban instan untuk pertanyaan yang 100% sama persis guna memotong latensi LLM.

Pembersihan: Dapat dihapus secara massal per-user atau global menggunakan tombol Flush Cache.

2. Tab Semantic Cache (Qdrant Vector Cache):

Pencarian Semantik: Menyimpan pencarian cerdas berbasis vektor AI di Qdrant. Pertanyaan yang secara makna mirip akan langsung mendapatkan jawaban dari cache tanpa memanggil LLM kembali.

Eviction & Kendali Penuh: Dilengkapi dengan batasan kuota otomatis berbasis paket (FIFO Eviction) dan kontrol visual untuk mencari cache, menghapus cache tertentu secara eceran (satuan), maupun membersihkan seluruh cache semantik per-Agen.

Deploy Custom Tools

Cara Men-deploy Custom Tools Python sebagai Secure Endpoint AI Agent

Panduan langkah demi langkah tentang cara membungkus fungsi Python sebagai endpoint API yang aman untuk digunakan oleh AI Agent kustom Anda.

Saat membangun AI Agent, salah satu tantangan terbesar adalah bagaimana cara menghubungkan agen tersebut ke sistem internal Anda (seperti data, sistem CRM, atau sistem pengiriman) secara aman. Restly menyelesaikan masalah ini dengan menyediakan secure proxy layer.

# Contoh fungsi Python sederhana (FastAPI) untuk diekspos:
@app.get("/api/cek-stok")
async def cek_stok(produk_id: str):
    return {"stok": 42, "status": "tersedia"}

Langkah Menghubungkan Custom Tool ke Restly:

  1. Buat Endpoint API Anda: Deploy fungsi Python/Node.js Anda ke server backend Anda.
  2. Tambahkan Tool di Dashboard Restly: Masuk ke menu Restly Tool, klik tambah baru, masukkan URL API dan daftarkan parameter (misal: produk_id).
  3. Koneksikan dengan Agen: Aktifkan tool ini pada agen yang sesuai di menu Restly Agent.

Mengapa Menggunakan Restly?

Jika Anda memanggil API Anda langsung dari browser client, API Key internal Anda akan terekspos ke publik. Dengan Restly, Restly bertindak sebagai middleware perantara: browser menghubungi Restly -> Restly menyuntikkan API Key secara rahasia -> Restly menghubungi server Anda -> mengembalikan hasil secara aman ke AI Agent.

Perutean AI Cerdik

Menghemat Biaya API dengan Perutean AI Cerdik (GPT-4 vs Gemini)

Pelajari bagaimana teknologi Orkestrasi & Router Restly dapat membagi request secara otomatis untuk memotong biaya API LLM Anda secara dramatis.

Cara Kerja Perutean Dinamis Restly:

  • Deteksi Kompleksitas: Restly memindai prompt masuk secara semantik menggunakan database vektor (Qdrant).
  • Model Tier Ringan: Pertanyaan umum, percakapan santai (greetings), atau request sederhana dialihkan ke model yang super cepat dan murah (misalnya, Gemini Flash).
  • Model Tier Berat: Request yang membutuhkan logika mendalam, penyelesaian kode pemrograman, atau analisis matematika rumit barulah dikirimkan ke model tier.

Manfaat Utama:

Dengan skema perutean otomatis ini, Anda dapat menghemat biaya tagihan API bulanan hingga **60-80%** tanpa menurunkan kualitas jawaban yang diterima oleh pengguna akhir Anda.

Keamanan AI Agent

Mengamankan AI Agent dari Eksploitasi Prompt Injection

Panduan praktik terbaik tentang bagaimana menjaga agar database internal dan API Anda aman saat diekspos ke model bahasa besar (LLM).

Serangan Prompt Injection terjadi ketika input jahat pengguna mengelabui instruksi sistem LLM untuk melakukan hal yang tidak diinginkan (seperti mencuri data, mengeksekusi perintah data berbahaya, atau menghapus file).

Bagaimana Restly Melindungi Sistem Anda:

  • Validasi Input Kaku: Restly memvalidasi parameter masukan bertipe data ketat sebelum memicu tool API eksternal Anda.
  • Keamanan Token Sandbox: Setiap API key pihak ketiga disimpan secara terenkripsi dan dijalankan melalui backend Restly, mencegah kebocoran kredensial di sisi browser klien.
  • Pembatasan Rate Limit & Kuota: Restly mencegah serangan spamming token dengan membatasi eksekusi request per agen atau per sesi user.

Saran Praktik Terbaik:

Pastikan API tool eksternal Anda menerapkan prinsip Least Privilege (hanya memberikan akses baca/tulis terbatas sesuai fungsi yang dibutuhkan oleh agen tersebut).