vLLM과 함께 Noir 사용하기

vLLM은 고처리량 LLM 추론 엔진입니다. Noir와 함께 사용하면 빠른 로컬 코드 분석이 가능합니다.

설정

1. vLLM 설치: 공식 설치 가이드를 참고하세요.

2. 모델 서빙:

   vllm serve google/gemma-4-31B-it
   

   OpenAI 호환 API 엔드포인트를 제공하는 로컬 서버가 시작됩니다.

사용 방법

noir scan ./spec/functional_test/fixtures/hahwul \
     --ai-provider=vllm \
     --ai-model=google/gemma-4-31B-it