ollama

type ChatDuration time.Duration

type ChatOpt func(*reqChatCompletion) error

type ChatStatus struct {
	Response           string `json:"response,omitempty"`
	Context            []int  `json:"context,omitempty"`
	PromptTokens       int    `json:"prompt_eval_count,omitempty"`
	ResponseTokens     int    `json:"total_eval_count,omitempty"`
	LoadDurationNs     int64  `json:"load_duration,omitempty"`
	PromptDurationNs   int64  `json:"prompt_eval_duration,omitempty"`
	ResponseDurationNs int64  `json:"response_eval_duration,omitempty"`
	TotalDurationNs    int64  `json:"total_duration,omitempty"`
}

type Client struct {
	*client.Client
}

type Model struct {
	Name       string       `json:"name"`
	Model      string       `json:"model"`
	ModifiedAt time.Time    `json:"modified_at"`
	Size       int64        `json:"size"`
	Digest     string       `json:"digest"`
	Details    ModelDetails `json:"details"`
}

type ModelDetails struct {
	ParentModel       string   `json:"parent_model,omitempty"`
	Format            string   `json:"format"`
	Family            string   `json:"family"`
	Families          []string `json:"families"`
	ParameterSize     string   `json:"parameter_size"`
	QuantizationLevel string   `json:"quantization_level"`
}

type ModelShow struct {
	File       string       `json:"modelfile"`
	Parameters string       `json:"parameters"`
	Template   string       `json:"template"`
	Details    ModelDetails `json:"details"`
}