Перейти в Milvus быстро

Эта глава представляет, как быстро начать работу с операциями чтения и записи векторной базы данных Milvus с использованием Go.

Установка Go SDK

Примечание: Для Go SDK требуется версия Go 1.15 или выше.

go get -u github.com/milvus-io/milvus-sdk-go/v2

Импорт зависимостей

import (
	"context"
	"fmt"
	"log"
	"math/rand"
	"time"

	"github.com/milvus-io/milvus-sdk-go/v2/client"
	"github.com/milvus-io/milvus-sdk-go/v2/entity"
)

Подключение к базе данных Milvus

	ctx := context.Background()

	log.Printf(msgFmt, "Подключение к Milvus")
	c, err := client.NewClient(ctx, client.Config{
		Address: "localhost:19530",
	})
	if err != nil {
		log.Fatal("Не удалось подключиться к Milvus, ошибка: ", err.Error())
	}
	defer c.Close()

Создание коллекции

Процесс создания коллекции аналогичен созданию структуры таблицы MySQL, где необходимо описать тип каждого поля.

   названиеКоллекции = "hello_tizi365"
	log.Printf(msgFmt, fmt.Sprintf("Создание коллекции, `%s`", названиеКоллекции))
	
	// Определите типы полей коллекции, задав здесь поля ID, random и embeddings
	схема := entity.NewSchema().WithName(названиеКоллекции).WithDescription("Описание коллекции").
		WithField(entity.NewField().WithName("ID").WithDataType(entity.FieldTypeInt64).WithIsPrimaryKey(true).WithIsAutoID(false)).
		WithField(entity.NewField().WithName("random").WithDataType(entity.FieldTypeDouble)).
		WithField(entity.NewField().WithName("embeddings").WithDataType(entity.FieldTypeFloatVector).WithDim(dim))

	// Создание коллекции на основе определенных типов полей коллекции
	if err := c.CreateCollection(ctx, схема, entity.DefaultShardNumber); err != nil {
		log.Fatalf("Не удалось создать коллекцию, ошибка: %v", err)
	}

Вставка данных в коллекцию

	idList, randomList := make([]int64, 0, nEntities), make([]float64, 0, nEntities)
	embeddingList := make([][]float32, 0, nEntities)

	rand.Seed(time.Now().UnixNano())

    // В тестовых целях генерируем некоторые случайные тестовые данные здесь
	// Генерация ID
	for i := 0; i < nEntities; i++ {
		idList = append(idList, int64(i))
	}
	// Генерация случайных значений
	for i := 0; i < nEntities; i++ {
		randomList = append(randomList, rand.Float64())
	}
	// Генерация векторных значений
	for i := 0; i < nEntities; i++ {
		vec := make([]float32, 0, dim)
		for j := 0; j < dim; j++ {
			vec = append(vec, rand.Float32())
		}
		embeddingList = append(embeddingList, vec)
	}
	// Вставка нескольких наборов данных, организованных по столбцам для нескольких данных
	idColData := entity.NewColumnInt64("ID", idList)
	randomColData := entity.NewColumnDouble("random", randomList)
	embeddingColData := entity.NewColumnFloatVector("embeddings", dim, embeddingList)

    // Вставка данных
	if _, err := c.Insert(ctx, названиеКоллекции, "", idColData, randomColData, embeddingColData); err != nil {
		log.Fatalf("Не удалось записать данные, ошибка: %v", err)
	}
    
	// Сохранение данных на диск
	if err := c.Flush(ctx, названиеКоллекции, false); err != nil {
		log.Fatalf("Не удалось сохранить данные, ошибка: %v", err)
	}

Создание индекса

	// Определение типа индекса
	idx, err := entity.NewIndexIvfFlat(entity.L2, 128)
	if err != nil {
		log.Fatalf("Не удалось определить индекс, ошибка: %v", err)
	}
	// Создание индекса для указанной коллекции
	if err := c.CreateIndex(ctx, названиеКоллекции, embeddingCol, idx, false); err != nil {
		log.Fatalf("Не удалось создать индекс, ошибка: %v", err)
	}

    // Загрузка указанной коллекции в память для улучшения эффективности запроса
	err = c.LoadCollection(ctx, названиеКоллекции, false)
	if err != nil {
		log.Fatalf("Не удалось загрузить коллекцию, ошибка: %v", err)
	}

Поиск схожих векторов

   // Подготовка векторов для поиска. Здесь мы извлекаем часть векторных данных из ранее сгенерированных данных для тестирования, и будем искать результаты, похожие на эти векторы ниже.
	vec2search := []entity.Vector{
		entity.FloatVector(embeddingList[len(embeddingList)-2]),
		entity.FloatVector(embeddingList[len(embeddingList)-1]),
	}
	begin := time.Now()
	sp, _ := entity.NewIndexIvfFlatSearchParam(16)
	// Выполнение поиска схожих векторов
	sRet, err := c.Search(ctx, collectionName, nil, "", []string{"random"}, vec2search,
		"embeddings", entity.L2, topK, sp)
	end := time.Now()
	if err != nil {
		log.Fatalf("Поиск не удался, ошибка: %v", err)
	}

	log.Println("Вывод результатов:")
	for _, res := range sRet {
		printResult(&res)
	}

Определение функции printResult

func printResult(sRet *client.SearchResult) {
	randoms := make([]float64, 0, sRet.ResultCount)
	scores := make([]float32, 0, sRet.ResultCount)

	var randCol *entity.ColumnDouble
	for _, field := range sRet.Fields {
		if field.Name() == "random" {
			c, ok := field.(*entity.ColumnDouble)
			if ok {
				randCol = c
			}
		}
	}
	for i := 0; i < sRet.ResultCount; i++ {
		val, err := randCol.ValueByIdx(i)
		if err != nil {
			log.Fatal(err)
		}
		randoms = append(randoms, val)
		scores = append(scores, sRet.Scores[i])
	}
	log.Printf("\trandoms: %v, scores: %v\n", randoms, scores)
}

Полный исходный код демонстрации, Исходный код запуска Go Milvus