llm

Documentation

Index

• Constants
• type LLMmodel
• type OllamaOptions
• type OllamaParams
• type OllamaToken
• type Prompter
  • func NewPrompter(endpoint string, model LLMmodel, opt ...OllamaOptions) Prompter
  • func (p Prompter) GetCommitMsg(summary, customCommitPrompt string) string
  • func (p Prompter) GetSummary(diff, customSummaryPrompt string) string

Constants

const (
	DefaultOllamaEndpoint = "http://127.0.0.1:11434"

	DefaultTemperature = 0.7
	DefaultNumPredict  = 200
)

Types

type LLMmodel

type LLMmodel string

const (
	Mistral LLMmodel = "mistral"
)

type OllamaOptions

type OllamaOptions struct {
	NumPredict  *int64   `json:"num_predict,omitempty"`
	Temperature *float64 `json:"temperature,omitempty"`
}

type OllamaParams

type OllamaParams struct {
	Model   LLMmodel      `json:"model"`
	Prompt  string        `json:"prompt"`
	Stream  bool          `json:"stream"`
	Options OllamaOptions `json:"options"`
}

type OllamaToken

type OllamaToken struct {
	Model    LLMmodel `json:"model"`
	Response string   `json:"response"`
	Done     bool     `json:"done"`
}

type Prompter

type Prompter struct {
	Endpoint string
	Model    LLMmodel
	Opt      OllamaOptions
}

func NewPrompter

func NewPrompter(endpoint string, model LLMmodel, opt ...OllamaOptions) Prompter

func (Prompter) GetCommitMsg

func (p Prompter) GetCommitMsg(summary, customCommitPrompt string) string

func (Prompter) GetSummary

func (p Prompter) GetSummary(diff, customSummaryPrompt string) string