starter/chatgpt_proxy/chatgpt_proxy.go

// модуль для работы с ChatGPT API через прокси (https://proxyapi.ru/)

package chatgpt_proxy

import (
	"context"
	"errors"
	"github.com/ManyakRus/starter/logger"
	"time"

	//"github.com/jackc/pgconn"
	"os"
	"sync"
	//"time"

	"github.com/ManyakRus/starter/contextmain"
	"github.com/ManyakRus/starter/stopapp"

	gogpt "github.com/rugatling/go-openai"
)

// Conn - соединение к CHAT GPT
// var Conn *gogpt.CompletionStream
var Conn *gogpt.Client

// log - глобальный логгер
var log = logger.GetLog()

// mutexReconnect - защита от многопоточности Reconnect()
var mutexReconnect = &sync.Mutex{}

// Settings хранит все нужные переменные окружения
var Settings SettingsINI

// SettingsINI - структура для хранения всех нужных переменных окружения
type SettingsINI struct {
	CHATGPT_API_KEY       string
	CHATGPT_NAME          string
	CHATGPT_START_TEXT    string
	CHATGPT_END_TEXT      string
	CHATGPT_PROXY_API_URL string
	CHATGPT_PROXY_API_KEY string
}

// Connect_err - подключается к базе данных
func Connect() {

	err := Connect_err()
	if err != nil {
		log.Panicln("ChatGPT Connect_err() api_key: ", Settings.CHATGPT_API_KEY, " Error: ", err)
	} else {
		log.Info("ChatGPT connected. api_key: ", Settings.CHATGPT_API_KEY)
	}

}

// Connect_err - подключается к базе данных
func Connect_err() error {
	var err error

	if Settings.CHATGPT_API_KEY == "" {
		FillSettings()
	}

	if Settings.CHATGPT_PROXY_API_KEY != "" {
		config := gogpt.DefaultConfig(Settings.CHATGPT_PROXY_API_KEY)
		config.BaseURL = Settings.CHATGPT_PROXY_API_URL
		Conn = gogpt.NewClientWithConfig(config)
	} else {
		Conn = gogpt.NewClient(Settings.CHATGPT_API_KEY)
	}

	//req := gogpt.CompletionRequest{
	//	Model:     gogpt.GPT3Ada,
	//	MaxTokens: 5,
	//	Prompt:    Settings.CHATGPT_NAME,
	//	Stream:    true,
	//}

	//ctx := contextmain.GetContext()
	//stream, err := Conn.CreateCompletionStream(ctx, req)
	//if err != nil {
	//	return err
	//}

	return err
}

// CloseConnection - закрытие соединения с базой данных
func CloseConnection() error {
	if Conn == nil {
		return nil
	}

	err := CloseConnection_err()
	if err != nil {
		log.Error("ChatGPT CloseConnection() error: ", err)
	} else {
		log.Debug("ChatGPT connection closed")
	}

	return err
}

// CloseConnection - закрытие соединения с базой данных
func CloseConnection_err() error {
	var err error
	if Conn == nil {
		return nil
	}

	//ctx := contextmain.GetContext()
	//ctx := context.Background()
	//Conn.Close()

	return err
}

// WaitStop - ожидает отмену глобального контекста
func WaitStop() {

	select {
	case <-contextmain.GetContext().Done():
		log.Warn("Context app is canceled.")
	}

	//
	stopapp.WaitTotalMessagesSendingNow("ChatGPT")

	//
	err := CloseConnection()
	if err != nil {
		log.Error("CloseConnection() error: ", err)
	}
	stopapp.GetWaitGroup_Main().Done()
}

// Start - необходимые процедуры для подключения к серверу ChatGPT
func Start() {
	Connect()

	stopapp.GetWaitGroup_Main().Add(1)
	go WaitStop()

}

// Start_ctx - необходимые процедуры для подключения к серверу ChatGPT
// Свой контекст и WaitGroup нужны для остановки работы сервиса Graceful shutdown
// Для тех кто пользуется этим репозиторием для старта и останова сервиса можно просто StartCamunda()
func Start_ctx(ctx *context.Context, WaitGroup *sync.WaitGroup) error {
	var err error

	//запомним к себе контекст и WaitGroup
	contextmain.Ctx = ctx
	stopapp.SetWaitGroup_Main(WaitGroup)

	//
	err = Connect_err()
	if err != nil {
		return err
	}

	stopapp.GetWaitGroup_Main().Add(1)
	go WaitStop()

	return err
}

// FillSettings загружает переменные окружения в структуру из файла или из переменных окружения
func FillSettings() {
	Settings = SettingsINI{}
	Settings.CHATGPT_API_KEY = os.Getenv("CHATGPT_API_KEY")
	Settings.CHATGPT_NAME = os.Getenv("CHATGPT_NAME")
	Settings.CHATGPT_START_TEXT = os.Getenv("CHATGPT_START_TEXT")
	Settings.CHATGPT_END_TEXT = os.Getenv("CHATGPT_END_TEXT")
	Settings.CHATGPT_PROXY_API_URL = os.Getenv("CHATGPT_PROXY_API_URL")
	Settings.CHATGPT_PROXY_API_KEY = os.Getenv("CHATGPT_PROXY_API_KEY")
	if Settings.CHATGPT_API_KEY == "" {
		log.Panicln("Need fill CHATGPT_API_KEY ! in os .env ")
	}
	if Settings.CHATGPT_NAME == "" {
		log.Warnln("Need fill CHATGPT_NAME ! in os .env ")
	}
	if Settings.CHATGPT_START_TEXT == "" {
		//log.Warnln("Need fill CHATGPT_NAME ! in os .env ")
	}
	if Settings.CHATGPT_END_TEXT == "" {
		//log.Warnln("Need fill CHATGPT_NAME ! in os .env ")
	}

	//
}

func SendMessage(Text string, user string) (string, error) {
	var Otvet = ""
	var err error

	if Conn == nil {
		Connect()
	}

	if Settings.CHATGPT_START_TEXT != "" {
		Text = Settings.CHATGPT_START_TEXT + Text
	}

	if Settings.CHATGPT_END_TEXT != "" {
		Text = Text + Settings.CHATGPT_END_TEXT
	}

	ctxMain := context.Background()
	ctx, cancel := context.WithTimeout(ctxMain, 600*time.Second)
	defer cancel()

	Messages := []gogpt.ChatCompletionMessage{
		{
			Role:    gogpt.ChatMessageRoleSystem,
			Content: Text,
		},
	}

	req := gogpt.ChatCompletionRequest{
		Model:     gogpt.GPT4o,
		MaxTokens: 2048,
		Messages:  Messages,
		User:      user,
	}
	resp, err := Conn.CreateChatCompletion(ctx, req)
	if err != nil {
		log.Debug("ChatGPT CreateChatCompletion() error: ", err)
		return Otvet, err
	}

	if len(resp.Choices) > 0 {
		Otvet = resp.Choices[0].Message.Content
	} else {
		err = errors.New("error: no response")
	}

	return Otvet, err
}