Skip to main content

프롬프트

AI 언어 모델을 사용하여 프롬프트를 실행하는 노드입니다.


설명

프롬프트 노드는 입력 데이터를 기반으로 LLM(Large Language Model)에게 동적인 질문을 생성하고, 그에 대한 응답을 받을 수 있는 기능을 제공합니다.

프롬프트에서 {{}}를 사용하여 입력받은 데이터셋의 컬럼명을 변수로 활용할 수 있습니다. 예를 들어, 데이터셋에 '책 이름', '작가'라는 컬럼이 포함되어 있다면, {{책 이름}}은 해당 열의 책 이름 값을 가져와 질문을 동적으로 생성합니다. 이 질문들은 데이터셋에 있는 각 행에 대해 실행되며, LLM은 각각에 대한 응답을 반환합니다. 결과적으로 LLM 응답이 포함된 새로운 데이터셋을 얻게 됩니다.


포트 구성

입력 포트

  • 데이터셋: 프롬프트에 사용할 데이터

출력 포트

  • 데이터셋: LLM 응답 값이 포함된 데이터셋

속성

답변의 수

각 데이터 행에 대해 생성할 AI 응답의 개수를 설정합니다. 슬라이더를 조정하여 1개 이상의 답변을 생성할 수 있습니다.

출력 열 이름

AI 응답이 저장될 새로운 컬럼의 이름을 지정합니다. 기본값은 output_response입니다.

모델 선택

사용할 AI 언어 모델을 선택합니다. 각 모델마다 성능과 비용이 다릅니다.

예시: gpt-4o-mini / 1 credit per row

최대 출력 토큰

AI 응답의 최대 길이를 토큰 단위로 제한합니다. 최대 출력 토큰 값은 선택한 모델에 따라 다릅니다.

기본값: 1000토큰


사용 방법

  1. 노드를 캔버스에 추가합니다
  2. 처리할 데이터셋을 입력 포트에 연결합니다
  3. 데이터 연결 영역에 프롬프트를 작성합니다
  4. 데이터 컬럼을 {{컬럼명}} 형태로 프롬프트에 삽입합니다
  5. 답변의 수를 설정합니다 (기본값: 1)
  6. 출력 열 이름을 지정합니다
  7. 사용할 AI 모델을 선택합니다
  8. 최대 출력 토큰을 설정합니다
  9. 실행하기 버튼을 클릭합니다
  10. 출력 포트에서 AI 응답이 추가된 데이터를 확인할 수 있습니다

주의사항

크레딧 사용

프롬프트 노드는 데이터의 각 행마다 AI 모델을 실행하므로 크레딧이 소비됩니다. 데이터 행 수와 선택한 모델에 따라 비용이 달라집니다.

토큰 제한

각 AI 모델마다 최대 출력 토큰 제한이 있습니다. 제한을 초과하는 응답은 잘릴 수 있습니다.

프롬프트 작성 팁

효과적인 프롬프트를 작성하려면 명확한 지시사항과 예시를 포함하고, 데이터 컬럼을 적절히 활용하세요.