init

models/models.go

@@ -0,0 +1,90 @@
+package models
+
+// type FuncCall struct {
+// 	XMLName xml.Name `xml:"tool_call"`
+// 	Name    string   `xml:"name"`
+// 	Args    []string `xml:"args"`
+// }
+
+type FuncCall struct {
+	Name string `json:"name"`
+	Args string `json:"args"`
+}
+
+type LLMResp struct {
+	Choices []struct {
+		FinishReason string `json:"finish_reason"`
+		Index        int    `json:"index"`
+		Message      struct {
+			Content string `json:"content"`
+			Role    string `json:"role"`
+		} `json:"message"`
+	} `json:"choices"`
+	Created int    `json:"created"`
+	Model   string `json:"model"`
+	Object  string `json:"object"`
+	Usage   struct {
+		CompletionTokens int `json:"completion_tokens"`
+		PromptTokens     int `json:"prompt_tokens"`
+		TotalTokens      int `json:"total_tokens"`
+	} `json:"usage"`
+	ID string `json:"id"`
+}
+
+// for streaming
+type LLMRespChunk struct {
+	Choices []struct {
+		FinishReason string `json:"finish_reason"`
+		Index        int    `json:"index"`
+		Delta        struct {
+			Content string `json:"content"`
+		} `json:"delta"`
+	} `json:"choices"`
+	Created int    `json:"created"`
+	ID      string `json:"id"`
+	Model   string `json:"model"`
+	Object  string `json:"object"`
+	Usage   struct {
+		CompletionTokens int `json:"completion_tokens"`
+		PromptTokens     int `json:"prompt_tokens"`
+		TotalTokens      int `json:"total_tokens"`
+	} `json:"usage"`
+}
+
+type MessagesStory struct {
+	Role    string `json:"role"`
+	Content string `json:"content"`
+}
+
+type ChatBody struct {
+	Model    string          `json:"model"`
+	Stream   bool            `json:"stream"`
+	Messages []MessagesStory `json:"messages"`
+}
+
+type ChatToolsBody struct {
+	Model    string          `json:"model"`
+	Messages []MessagesStory `json:"messages"`
+	Tools    []struct {
+		Type     string `json:"type"`
+		Function struct {
+			Name        string `json:"name"`
+			Description string `json:"description"`
+			Parameters  struct {
+				Type       string `json:"type"`
+				Properties struct {
+					Location struct {
+						Type        string `json:"type"`
+						Description string `json:"description"`
+					} `json:"location"`
+					Unit struct {
+						Type string   `json:"type"`
+						Enum []string `json:"enum"`
+					} `json:"unit"`
+				} `json:"properties"`
+				Required []string `json:"required"`
+			} `json:"parameters"`
+		} `json:"function"`
+	} `json:"tools"`
+	ToolChoice string `json:"tool_choice"`
+}