프롬프트
AI 언어 모델을 사용하여 프롬프트를 실행하는 노드입니다.
설명
프롬프트 노드는 입력 데이터를 기반으로 LLM(Large Language Model)에게 동적인 질문을 생성하고, 그에 대한 응답을 받을 수 있는 기능을 제공합니다.
프롬프트에서 {{}}를 사용하여 입력받은 데이터셋의 컬럼명을 변수로 활용할 수 있습니다. 예를 들어, 데이터셋에 '책 이름', '작가'라는 컬럼이 포함되어 있다면, {{책 이름}}은 해당 열의 책 이름 값을 가져와 질문을 동적으로 생성합니다. 이 질문들은 데이터셋에 있는 각 행에 대해 실행되며, LLM은 각각에 대한 응답을 반환합니다. 결과적으로 LLM 응답이 포함된 새로운 데이터셋을 얻게 됩니다.
포트 구성
입력 포트
- 데이터셋: 프롬프트에 사용할 데이터
출력 포트
- 데이터셋: LLM 응답 값이 포함된 데이터셋
속성
답변의 수
각 데이터 행에 대해 생성할 AI 응답의 개수를 설정합니다. 슬라이더를 조정하여 1개 이상의 답변을 생성할 수 있습니다.
출력 열 이름
AI 응답이 저장될 새로운 컬럼의 이름을 지정합니다. 기본값은 output_response입니다.
모델 선택
사용할 AI 언어 모델을 선택합니다. 각 모델마다 성능과 비용이 다릅니다.
예시: gpt-4o-mini / 1 credit per row
최대 출력 토큰
AI 응답의 최대 길이를 토큰 단위로 제한합니다. 최대 출력 토큰 값은 선택한 모델에 따라 다릅니다.
기본값: 1000토큰
사용 방법
- 노드를 캔버스에 추가합니다
- 처리할 데이터셋을 입력 포트에 연결합니다
- 데이터 연결 영역에 프롬프트를 작성합니다
- 데이터 컬럼을
{{컬럼명}}형태로 프롬프트에 삽입합니다 - 답변의 수를 설정합니다 (기본값: 1)
- 출력 열 이름을 지정합니다
- 사용할 AI 모델을 선택합니다
- 최대 출력 토큰을 설정합니다
- 실행하기 버튼을 클릭합니다
- 출력 포트에서 AI 응답이 추가된 데이터를 확인할 수 있습니다
주의사항
프롬프트 노드는 데이터의 각 행마다 AI 모델을 실행하므로 크레딧이 소비됩니다. 데이터 행 수와 선택한 모델에 따라 비용이 달라집니다.
각 AI 모델마다 최대 출력 토큰 제한이 있습니다. 제한을 초과하는 응답은 잘릴 수 있습니다.
효과적인 프롬프트를 작성하려면 명확한 지시사항과 예시를 포함하고, 데이터 컬럼을 적절히 활용하세요.