Meta Panel LLM Engine
Setting AI & Data Management
Atur data riwayat percakapan, impor/ekspor backup file, dan konfigurasi engine LLM.
Pengelolaan Data Chat (.json)
Simpan seluruh riwayat percakapan ke file Llm_model.json atau muat riwayat dari file backup sebelumnya.
Konfigurasi Server Endpoint
Parameter Model LLM
Pengaturan ini membantu mencegah halusinasi dan teks yang diulang-ulang (ngacok).
0.6
1.15
Dokumentasi API & Integrasi
Panduan teknis penggunaan API server llama.cpp lokal dan format data riwayat.
Endpoint REST API

POST http://127.0.0.1:8088/completion

Contoh request JSON dengan penalti repetisi untuk mencegah hasil ngacok:

{
  "prompt": "User: Halo!\nAI:",
  "n_predict": 512,
  "temperature": 0.6,
  "repeat_penalty": 1.15,
  "stop": ["\nUser:", "User:"],
  "stream": true
}
Integrasi Python
import requests

url = "http://127.0.0.1:8088/completion"
payload = {
    "prompt": "User: Siapa presiden Indonesia?\nAI:",
    "n_predict": 256,
    "temperature": 0.6,
    "repeat_penalty": 1.15
}

response = requests.post(url, json=payload)
print(response.json()["content"])
Structure File Llm_model.json

File JSON eksport/impor menggunakan format array pesan sebagai berikut:

{
  "chat_1710000000000": {
    "title": "Halo AI...",
    "messages": [
      { "role": "user", "content": "Halo AI" },
      { "role": "ai", "content": "Halo! Ada yang bisa dibantu?" }
    ]
  }
}