llama-cpp-python — это привязки Python для llama.cpp. llama-cpp-python зависит от класса Llama в llama.py для загрузки .gguf llama.cpp или Latency Machine Learning Models. Конструктор __init__, встроенный в Llama, принимает несколько параметров для настройки загрузки и запуска модели. Помимо NUMA, настроек LoRa, загрузки токенизаторов и настроек оборудования, __init__ также загружает шаблон чата из целевого метаданного .gguf и дополнительно анализирует его в llama_chat_format.Jinja2ChatFormatter.to_chat_handler() для построения self.chat_handler для этой модели. Тем не менее, Jinja2ChatFormatter анализирует шаблон чата внутри Metadate с помощью jinja2.Environment без песочницы, который, кроме того, отображается в __call__ для построения prompt взаимодействия. Это позволяет использовать Server Side Template Injection jinja2, что приводит к удаленному выполнению кода с помощью тщательно сконструированной полезной нагрузки.