전체 글(1355)
-
내가 쓰던 AI를 챗봇에 연결했더니 내 작업 환경까지 따라왔다
평소 Claude Code와 Codex를 이용해 프로그램을 개발하고 있다. 그런데 이 AI들을 내가 사용하는 데서 그치지 않고, 텔레그램이나 다른 메신저에서도 질문하고 답변받을 수 있도록 연결하면 어떨까?이미 잘 작동하는 AI가 있으니 새로운 AI 서비스를 처음부터 개발할 필요 없이 기존 프로그램을 연결하면 될 것 같았다.하지만 실제로 연결해 보니 예상하지 못했던 문제가 발생했다.1. 만들고 싶었던 것은 하나의 AI 상담 창구예를 들어 집에서 PC로 개발 작업을 하다가 외출했다고 생각해 보자.밖에서도 텔레그램으로 질문을 보내고 AI의 답변을 받을 수 있다면 편리할 것이다. 여기에 다른 메신저나 웹 채팅까지 연결하면 여러 곳에서 동일한 AI 서비스를 이용할 수 있다.여러 곳에서 하나의 AI 이용하기여기서 ..
23:02:48 -
여러 채널이 쓰는 AI 게이트웨이에 CLI를 붙일 때 개인 지침부터 떼어내야 하는 이유
여러 채널에서 들어오는 질문을 하나의 창구로 받아 답하는 게이트웨이를 만들면서, 답변을 생성하는 부분은 새로 만들지 않고 이미 쓰고 있던 Claude Code와 Codex CLI를 그대로 붙이기로 했다. 두 CLI 모두 평소 터미널에서 매일 쓰던 도구였고, 질문 하나를 텍스트로 넣고 답 하나를 텍스트로 받는 일은 프롬프트를 조금 바꾸는 정도로 될 거라고 생각했다.처음에는 단순하게 봤다. CLI를 서브프로세스로 띄워 표준 입력으로 질문을 넣고 표준 출력으로 답을 받으면, 이미 검증된 도구를 그대로 재사용하는 셈이니 별도 LLM API 연동을 새로 짜는 것보다 빠를 거라 판단했다.그런데 실제로 연결해서 답을 받아보니 이상한 것들이 섞여 나왔다. 질문과 무관하게 특정 프로젝트의 작업 방식을 전제로 한 말투가 ..
21:53:06 -
LLM 하나로는 부족했다: 주제별 우선순위와 자동 failover로 이중화한 이야기
여러 채널에서 들어오는 질문에 AI가 답하는 게이트웨이를 운영하다 보면, 언젠가는 반드시 이 질문을 마주하게 된다. "지금 쓰는 모델이 막히면 그다음엔 어떻게 되는가?" 나에게는 이 질문이 생각보다 일찍 왔다.무엇을 하려 했나이 게이트웨이로 들어오는 질문은 성격이 꽤 달랐다. 어떤 질문은 코드를 고쳐달라는 요청이었고, 어떤 질문은 구조나 설계 방향을 물어보는 요청이었다. 처음에는 이 차이를 크게 신경 쓰지 않았다. 어차피 하나의 LLM API를 호출하는 구조였고, 모델 하나만 잘 골라두면 나머지는 그 모델이 알아서 처리해줄 거라 생각했다.처음 생각그래서 처음 설계는 단순했다. 질문이 무엇이든 같은 모델, 같은 호출 경로를 타게 했다. 모델을 하나로 통일하면 설정도 단순해지고, 실패 처리도 한 곳에만 신경..
21:47:04 -
VS Code Remote SSH가 다운로드 화면에서 멈췄을 때 — 설정 변경부터 로그 확인까지
Windows PC에서 VS Code Remote SSH를 이용해 Ubuntu 서버에 접속하던 중 Downloading VS Code Server... 화면에서 더 이상 진행되지 않는 문제가 발생했다.처음에는 다운로드 실패로 생각했지만, 설정을 변경하고 로그를 확인해 보니 서버 설치가 진행 중이었다. 최종적으로 약 1분 30초 만에 설치가 완료되고 정상적으로 접속됐다.이번에 수행한 작업을 다음에도 활용할 수 있도록 실제 명령과 함께 정리했다.1. 작업 환경과 문제 상황로컬 PC: Windows, VS Code원격 서버: Ubuntu Linux접속 방식: Remote SSH증상: VS Code Server 다운로드 화면에서 멈춘 것처럼 보임Remote SSH는 원격 서버에 VS Code Server를 설치..
15:52:04 -
VS Code Remote SSH가 다운로드 화면에서 멈췄을 때 — 실제로는 설치 중이었다
VS Code에서 Remote SSH로 Ubuntu 서버에 접속하려는데 Downloading VS Code Server... 화면에서 더 이상 진행되지 않았다.처음에는 다운로드가 실패한 것으로 생각했지만, 설정을 변경하고 로그를 확인한 결과 실제로는 서버 설치가 진행 중이었다. 약 1분 30초 후 설치가 완료됐고, 정상적으로 접속할 수 있었다.이번에 겪은 문제와 확인 과정을 정리해 본다.1. 문제 상황 Remote SSH 접속 시 다운로드 단계에서 멈춘 것처럼 보이는 화면 예시개발 환경은 Windows PC에서 VS Code Remote SSH를 이용해 Ubuntu 서버에 접속하는 구조다.평소처럼 원격 서버에 접속하려고 했지만 다운로드 화면에서 진행되지 않았다. VS Code Server 다운로드가 실..
15:47:35 -
얼굴 교체가 실패했는데, 원래 얼굴 영상이 나오면 더 위험한 이유
얼굴 교체 기능을 붙일 때 처음에는 이렇게 생각하기 쉽다.“모델이 실패해도 원본 사진으로 영상은 만들어 주면 되지 않을까?”사용자 입장에서는 결과 파일을 하나라도 받는 편이 나아 보인다. 작업이 완전히 실패하는 것보다 영상이 나오는 쪽이 친절해 보이기도 한다.그런데 얼굴 교체처럼 사용자가 결과의 성격을 명확하게 지정한 기능에서는 반대다.얼굴 교체를 요청했는데 원래 얼굴 영상이 돌아오면, 그것은 성공이 아니다.실패를 숨기는 fallback의 문제사진을 움직이는 기능에서는 모델이 일시적으로 실패했을 때 원본을 유지한 채 다음 단계로 넘기는 전략이 도움이 될 수 있다.예를 들어 날짜 제거 기능이 실패했다면, 날짜가 남은 사진으로라도 영상을 생성할 수 있다. 기대한 보정은 못 했지만, 영상 생성이라는 핵심 기능..
10:23:23