char-fork/llama.cpp

git clone https://git.t4t.associates/char-fork/llama.cpp

Pop Flamingollama : re-enable manual LoRA adapter free (#19983)312cf0332

char/aliceai-t5-moe
brancheschar/aliceai-t5-moeall refs →
900 B30 linesraw
1#pragma once
2
3#ifndef __cplusplus
4#error "This header is for C++ only"
5#endif
6
7#include <memory>
8
9#include "llama.h"
10
11struct llama_model_deleter {
12    void operator()(llama_model * model) { llama_model_free(model); }
13};
14
15struct llama_context_deleter {
16    void operator()(llama_context * context) { llama_free(context); }
17};
18
19struct llama_sampler_deleter {
20    void operator()(llama_sampler * sampler) { llama_sampler_free(sampler); }
21};
22
23struct llama_adapter_lora_deleter {
24    void operator()(llama_adapter_lora * adapter) { llama_adapter_lora_free(adapter); }
25};
26
27typedef std::unique_ptr<llama_model, llama_model_deleter> llama_model_ptr;
28typedef std::unique_ptr<llama_context, llama_context_deleter> llama_context_ptr;
29typedef std::unique_ptr<llama_sampler, llama_sampler_deleter> llama_sampler_ptr;
30typedef std::unique_ptr<llama_adapter_lora, llama_adapter_lora_deleter> llama_adapter_lora_ptr;