filter

type ACTrie struct {
	// contains filtered or unexported fields
}

type ChainMode int

type ContentCategory string

type ContentFilter interface {
	// Name 过滤器名称
	Name() string

	// Filter 过滤内容
	Filter(ctx context.Context, content string) (*FilterResult, error)

	// FilterBatch 批量过滤
	FilterBatch(ctx context.Context, contents []string) ([]*FilterResult, error)
}

type FilterAction string

type FilterChain struct {
	// contains filtered or unexported fields
}

type FilterConfig struct {
	// Enabled 是否启用
	Enabled bool

	// Threshold 阈值
	Threshold float64

	// Action 默认动作
	Action FilterAction

	// Categories 要检测的类别
	Categories []ContentCategory

	// Allowlist 白名单
	Allowlist []string

	// CustomPatterns 自定义模式
	CustomPatterns []string
}

type FilterOption func(*FilterConfig)

type FilterResult struct {
	// Original 原始内容
	Original string `json:"original"`

	// Filtered 过滤后的内容
	Filtered string `json:"filtered"`

	// Passed 是否通过
	Passed bool `json:"passed"`

	// Score 风险分数（0-1）
	Score float64 `json:"score"`

	// Category 内容分类
	Category ContentCategory `json:"category"`

	// Findings 发现的问题
	Findings []Finding `json:"findings,omitempty"`

	// Action 建议的处理动作
	Action FilterAction `json:"action"`

	// Metadata 元数据
	Metadata map[string]any `json:"metadata,omitempty"`
}

type Finding struct {
	// Type 问题类型
	Type FindingType `json:"type"`

	// Content 问题内容
	Content string `json:"content"`

	// Position 位置
	Position int `json:"position"`

	// Length 长度
	Length int `json:"length"`

	// Severity 严重程度
	Severity Severity `json:"severity"`

	// Category 类别
	Category string `json:"category"`
}

type FindingType string

type RuleBasedClassifier struct {
	// contains filtered or unexported fields
}

type SensitiveWord struct {
	Word     string       `json:"word"`
	Category string       `json:"category"`
	Severity Severity     `json:"severity"`
	Action   FilterAction `json:"action"`
}

type SensitiveWordFilter struct {
	// contains filtered or unexported fields
}

type Severity string

type ToxicityClassifier interface {
	Classify(ctx context.Context, content string) (*ToxicityScore, error)
}

type ToxicityFilter struct {
	// contains filtered or unexported fields
}

type ToxicityScore struct {
	Overall     float64 `json:"overall"`
	Hate        float64 `json:"hate"`
	Violence    float64 `json:"violence"`
	Sexual      float64 `json:"sexual"`
	SelfHarm    float64 `json:"self_harm"`
	Harassment  float64 `json:"harassment"`
	Threatening float64 `json:"threatening"`
}

type TrieMatch struct {
	Word     string
	Position int
}