GRAXEL AI 도구 소개 — 업무 자동화의 시작

GRAXEL AI 툴 모음: 1인 개발자가 AI 비용 폭탄을 피하며 살아남는 법

최근 들어 매일같이 새로운 AI 서비스가 쏟아져 나옵니다. 개발자라면 누구나 한 번쯤 "저 정도는 API 가져다 붙이면 나도 주말 만에 만들겠는데?"라는 오만한(?) 생각을 해보셨을 겁니다. 저 역시 그랬습니다. 하지만 막상 서비스를 런칭하고 트래픽이 몰리기 시작하면, 상상도 못 한 청구서가 날아옵니다. 한 달 만에 OpenAI API 비용으로 20만 원이 넘게 찍힌 걸 보고 저는 큰 충격을 받았습니다.

수익이 크지 않은 초기 1인 SaaS 개발자에게 외부 API 의존도는 시한폭탄과 같습니다. 그래서 저는 방향을 틀었습니다. 외부에 의존하는 대신, 자체 인프라 위에서 구동되는 최적화된 AI 도구 모음을 직접 만들기로요. 오늘 소개할 내용들은 그렇게 탄생한 GRAXEL의 핵심 AI 툴들입니다. 제 프로필이나 여정이 궁금하시다면 저자 소개 페이지를 읽어주세요.

MyHyetaek: 11,600개 정책을 꿰뚫는 AI 하이브리드 RAG

가장 먼저 소개할 도구는 청년/복지 정책 검색 및 맞춤 추천 서비스인 'MyHyetaek'입니다. 한국의 공공데이터포털에는 수많은 정책이 있지만, 나에게 맞는 걸 찾기란 모래사장에서 바늘 찾기입니다. 저는 약 11,600개의 정책 데이터를 수집하여 하이브리드 RAG(Retrieval-Augmented Generation) 파이프라인을 구축했습니다.

단순한 키워드 검색을 넘어 문맥을 이해하기 위해 벡터 데이터베이스가 필요했습니다. 고가의 상용 DB 대신, 기존에 쓰던 PostgreSQL에 pgvector 확장 기능을 붙였습니다. 정책 본문을 적절한 청크(Chunk)로 쪼개고 로컬 임베딩 모델을 돌려 벡터화했습니다. 이제 사용자가 "경기도에 사는 20대 무직자인데 월세 지원받을 수 있어?"라고 물으면, 키워드 검색과 벡터 유사도 검색이 동시에 작동해 가장 정확한 정책 5개를 찾아내고 LLM이 자연스럽게 요약해 줍니다.

JobFit: 이력서와 채용 공고의 운명적 매칭

JobFit은 구직자와 채용 공고를 이어주는 도구입니다. 국내 채용 사이트의 가장 큰 문제점은 채용 공고가 '텍스트'가 아니라 길쭉한 '통 이미지'로 올라온다는 것입니다. 이를 분석하려면 강력한 Vision 모델이 필수였습니다.

여기서는 비용 효율성이 극강인 구글의 Gemini Vision 모델을 프록시 서버를 통해 연동했습니다. 채용 공고 이미지를 넣으면 기술 스택, 자격 요건, 우대 사항을 구조화된 JSON으로 뽑아냅니다. 그런 다음 사용자의 이력서 텍스트와 대조하여 합격 확률과 보완해야 할 점을 AI가 면접관 빙의해서 뼈 때리게 조언해 줍니다. 수많은 개발자 지인들이 이 툴로 이력서를 고치고 있습니다.

K-Guide: 방한 외국인을 위한 로컬라이징 AI

마지막으로 K-Guide는 한국을 방문하는 외국인들을 위한 컨텍스트 기반 가이드입니다. "홍대에서 밤늦게 택시 안 잡힐 때 어떻게 해?" 같은 질문에 답하려면 한국만의 특수한 상황(카카오T 사용법, 심야 버스, 치안 수준)을 모델이 알아야 합니다. 일반 챗봇은 자꾸 우버나 리프트를 부르라고 헛소리를 하거든요. K-Guide 프롬프트 엔지니어링에는 제가 직접 겪은 수많은 밤샘 경험담들이 데이터셋으로 녹아 있습니다.

인프라: 낡은 맥 미니와 Ollama의 기적

이 모든 도구를 외부 API로만 돌린다면 저는 파산했을 것입니다. 저는 집 구석에 먼지를 맞고 있던 2018년식 인텔 맥 미니에 리눅스를 올리고 Ollama를 세팅했습니다. 가벼운 7B, 8B 파라미터의 오픈소스 모델들을 양자화(Quantization)하여 올렸죠. 속도는 조금 느리지만, 백그라운드에서 비동기로 문서를 요약하고 태그를 다는 배치 작업에는 차고 넘쳤습니다.

결과적으로 월 20만 원이 넘던 AI 처리 비용을 전기세 포함 1만 원 수준으로 낮출 수 있었습니다. 제 다른 기술적 고민들은 블로그 목록에서 더 다양하게 확인하실 수 있습니다. AI 시대를 살아가는 인디 해커들에게 제 경험이 작은 영감이 되길 바랍니다!