api

type ChatRequest struct {
	Model       string  `json:"model"`
	Prompt      string  `json:"prompt"`
	System      string  `json:"system_prompt"`
	Temperature float64 `json:"temperature"`
	TopP        float64 `json:"top_p"`
	TopK        int     `json:"top_k"`
	MaxTokens   int     `json:"max_tokens"`
	Stream      bool    `json:"stream"` // If true, use WebSocket
}

type ChatResponse struct {
	Content string `json:"content"`
	Done    bool   `json:"done"`
}

type ErrorResponse struct {
	Error string `json:"error"`
}

type ModelDownloadRequest struct {
	Url  string `json:"url"`
	Name string `json:"name"`
}