Promptfoo
Otwarte narzędzie wiersza poleceń do testowania promptów i modeli na przypadkach opisanych w pliku konfiguracyjnym, łącznie z red teamingiem bezpieczeństwa.
Testy żyją w pliku YAML: wejścia, porównywane prompty i modele oraz asercje na wyniku, od dokładnego dopasowania po model w roli sędziego. Działa lokalnie albo w CI, więc zmiana promptu, która psuje przypadek, wywraca build, zob. regresja promptu. Tryb red teamingu generuje ataki takie jak prompt injection i jailbreak przeciwko Twojej aplikacji. W marcu 2026 r. OpenAI ogłosiło umowę przejęcia Promptfoo i zapowiedziało, że projekt pozostanie otwarty.
Powiązane hasła
- Regresja promptu: Odpowiedź, która była dobra, psuje się po zmianie promptu albo modelu.
- Red teaming AI: Celowe atakowanie własnej funkcji AI szkodliwymi, podchwytliwymi i wstrzykniętymi danymi, żeby znaleźć błędy, zanim zrobią to użytkownicy albo atakujący.
- Ewaluacje (evals): Powtarzalny zestaw testów, który ocenia funkcję AI, żeby zmiany mierzyć, a nie zgadywać.
- Ragas: Otwarta biblioteka w Pythonie do ewaluacji systemów RAG metrykami takimi jak faithfulness, answer relevancy, context precision i context recall.
- DeepEval: Otwarty framework w Pythonie, który testuje aplikacje LLM tak, jak pytest testuje kod, z gotowymi metrykami dla RAG i agentów.
