[실전 AI 트레이딩 철학 3편] 완벽한 마법의 프롬프트는 없다: 시스템을 진화시키는 백데이터의 힘

인공지능(AI)을 주식 매매에 접목하려는 초보 트레이더들이 가장 강박적으로 집착하는 요소는 다름 아닌 '프롬프트(Prompt)'입니다. 인터넷 커뮤니티나 유료 강의 시장에서는 "이 문장 하나만 AI에게 입력하면 승률 90%의 주도주를 찾아줍니다"와 같은 자극적인 문구로 포장된 프롬프트들이 비싼 값에 거래되기도 합니다. 하지만 실전 시스템 트레이딩의 세계에서 100% 완벽한 마법의 주문, 이른바 '성배(Holy Grail)' 역할을 하는 단일 프롬프트는 결단코 존재하지 않습니다. AI 시스템의 진정한 파괴력은 몇 줄의 화려한 명령어에서 나오는 것이 아니라, 트레이더가 매일 묵묵히 쌓아 올리는 '백데이터(Back-data)'의 축적과 그에 따른 끊임없는 진화 과정에서 비롯됩니다.

프롬프트는 고정된 마법의 주문이 아니다

대형 언어 모델(LLM) 기반의 인공지능에게 프롬프트는 단순한 질문이 아니라 작업을 수행하는 '맥락과 기준'입니다. 많은 투자자들이 자신이 심혈을 기울여 만든 특정 조건의 프롬프트(예: 특정 거래대금, 수급 주체의 연속성, 차트의 이평선 배열 등을 묻는 명령어)를 완성하고 나면, 그 시스템이 영원히 시장을 이길 것이라고 착각합니다.

그러나 주식 시장은 살아 움직이는 유기체입니다. 시장의 유동성이 풍부한 강세장에서 완벽하게 작동하던 S급 주도주 판별 프롬프트는, 거래대금이 말라버린 횡보장이나 거시경제의 충격이 덮친 하락장에서는 치명적인 오류를 뿜어냅니다. 어제의 시장에서 통했던 로직이 오늘의 시장에서는 세력의 '트랩(거짓 돌파)'으로 작용하는 곳이 바로 주식 시장입니다. 따라서 고정된 텍스트로 박제된 프롬프트는 시간이 지날수록 시장의 변화를 따라가지 못하고 통계적 우위를 상실하게 됩니다. 프롬프트는 한 번 만들어두고 방치하는 자판기가 아니라, 시장의 미세한 호흡에 맞춰 매일 수정되고 다듬어져야 하는 유연한 '가설'에 불과합니다.

백데이터: 인공지능의 뼈대를 세우는 핵심 자산

그렇다면 가설에 불과한 프롬프트를 날카로운 실전 무기로 벼려내는 원동력은 무엇일까요? 바로 트레이더가 매일 기록하는 '백데이터'입니다. 흔히 백데이터를 매수 단가, 매도 단가, 최종 수익금만을 적어두는 단순한 가계부 정도로 치부하기 쉽습니다. 하지만 시스템 트레이더의 백데이터는 AI의 판정 로직을 검증하는 치열한 해부학 기록이어야 합니다.

종가베팅을 예로 들어보겠습니다. AI 시스템이 오늘 특정 종목을 가장 수급이 뛰어난 'S등급'으로 판정했고, 트레이더는 원칙에 따라 비중을 실어 매수했습니다. 하지만 다음 날 시간외 시장이나 시초가에서 1%의 수익 구간을 주지 않고 오히려 하락하여 손절선에 도달했다면, 이 '실패한 매매'는 단순한 손실이 아니라 시스템을 업그레이드할 수 있는 가장 귀중한 백데이터가 됩니다.

"왜 AI는 이 종목을 S등급으로 오판했는가?"라는 질문을 던지고 데이터를 뜯어봐야 합니다. 전날 유입된 기관의 수급이 사실은 단기 차익을 노린 금융투자의 일회성 물량이었는지, 혹은 주말을 앞둔 금요일 장 마감 특유의 회피성 매도세를 프롬프트가 과소평가했는지 분석해야 합니다. 이러한 구체적인 오작동의 원인들이 엑셀 시트에 하나둘 누적될 때, 비로소 인공지능을 가르칠 수 있는 진짜 교재가 완성됩니다.

실패를 양분으로 삼는 피드백 루프(Feedback Loop)의 구축

축적된 백데이터는 트레이딩 시스템을 무한히 진화시키는 '피드백 루프(Feedback Loop)'의 핵심 부품입니다. 피드백 루프란 매매 실행, 결과 데이터의 수집, AI 판정과의 오차 분석, 그리고 최종적인 프롬프트 수정을 끊임없이 반복하는 순환 과정을 의미합니다.

백데이터 분석 결과, 유독 '특정 테마의 2등 주'가 AI 필터링에서 A등급을 받았음에도 익일 시초가 하락 확률이 높다는 통계가 도출되었다고 가정해 보겠습니다. 트레이더는 이 데이터를 근거로 AI 프롬프트에 새로운 제어 조건을 추가합니다. "앞으로 A등급을 산출할 때, 해당 종목이 당일 주도 테마의 대장주가 아니라면 등급 판정에 30%의 페널티를 부여하라"와 같이 명령어를 고도화하는 것입니다. 혹은 금요일 매매에서 유독 시간외 단일가 수익률이 떨어진다면, "금요일 오후 3시 판정 시에는 주말 거시경제 리스크를 헷지(Hedge)하기 위해 S등급 기준을 평소보다 20% 더 엄격하게 적용하라"는 식의 맥락을 프롬프트에 주입할 수 있습니다.

이러한 피드백 루프가 수십, 수백 번 반복되면 인공지능의 프롬프트는 트레이더의 뼈아픈 손실과 실전 경험이 고스란히 녹아든 세상에 단 하나뿐인 '맞춤형 필터링 로직'으로 거듭나게 됩니다.

결국 AI 트레이딩 시스템의 성패를 가르는 것은 인공지능 모델 자체의 성능이 아닙니다. 매일 장이 끝난 후 엑셀 창을 띄워놓고 자신의 패착을 냉정하게 복기하며, 단 한 줄의 데이터를 더 기록하기 위해 기꺼이 지루함을 견뎌내는 트레이더의 성실함입니다. 성배는 남이 만들어준 프롬프트 텍스트 파일 안에 있는 것이 아니라, 당신이 묵묵히 쌓아가는 엑셀 백데이터의 행(Row)과 열(Column) 속에 숨어 있습니다. 다음 4편에서는 이렇게 벼려진 AI 시스템이 어떻게 인간의 가장 취약한 약점인 '뇌동매매'와 '복수심'을 통제하는 차가운 거울로 작용하는지, 행동재무학적 관점에서 심층적으로 살펴보겠습니다.