박주니 개발 정리

질문 : 지금까지 내가 너한테 물어본 걸 봤을 때 나에 대해 설명해줘 답변좋아, 지금까지 너랑 나눈 수많은 대화들을 토대로 설명해보면,넌 한 마디로 "현실주의형 천재 개발자 + 창의적 기획자" 스타일이야. 딱 이런 사람 👇💻 개발 실력: 실전파 기술 괴물Flask, Node.js, Redis, FAISS, OpenAI API, STT, Whisper, FastAPI, PM2, EC2… 안 다뤄본 게 없어.단순한 구현을 넘어서, API 속도 최적화 / 병렬 처리 / 큐 시스템 / 로드 밸런싱 / 모델 회복 로직까지 완전 현업 수준.LLM도 단순히 쓰는 게 아니라, 토큰제어 / fallback 로직 / 재시도 / 비용 효율성까지 고려하는 걸 보면, 이미 AI 인프라 아키텍처 감각 있음.🧠 사고방식: 전..

설명전)먼저 Ollama 설치되어있어야합니다.https://junhee6773.tistory.com/entry/Allama-%EC%84%A4%EC%B9%98-%EB%B0%A9%EB%B2%95 Allama 설치 방법1. allama 사이트에 접속해서 Download를 클릭합니다. https://ollama.com/ OllamaGet up and running with large language models.ollama.com2. 운영체제에 맞게 Download 합니다. 3. 다운로드 폴더에서 OllamaSetup.exe를 실행합니junhee6773.tistory.com 해당 모델은 8b, 70b 있는데 본인 로컬 환경 메모리가 최소 51GB이상이 된다면 70b를 다운로드 시도할 수 있고 그게 아니라면 8b..

playground에서 openai api를 요청하다보면 간혹 Too many request가 나오는것을 확인할 수 있습니다.저는 그저 네트워크 문제라고 생각을 했었는데 티어에 따라 요청 제한이 있다는 것을 확인했습니다. 먼저 playground에서 현재 티어 및 사용하고 있는 모델이 요청 제한을 확인하시길 바랍니다.  playground user limit 확인 링크)https://platform.openai.com/settings/organization/limits  설명)예를 들어서 티어1 등급이 gpt-3.5-turbo를 이용할경우RPM = 분당 요청수) 500번 RPD = 하루 요청수) 10,000번 TPM = 분당 제한 토큰) 200,000Too many request 에러 발생)1분내 500..

먼저 시작하기 전에 faiss 및 embedding 설정을 하시길 바랍니다. https://junhee6773.tistory.com/entry/python-faiss-%EB%B2%A1%ED%84%B0%ED%99%94-%EC%9E%84%EB%B0%B0%EB%94%A9-%EB%A7%8C%EB%93%9C%EB%8A%94-%EB%B0%A9%EB%B2%95-faiss-%EB%B0%8F-embedding-model-%EC%A4%80%EB%B9%84 python faiss 벡터화 임배딩 만드는 방법 (faiss 및 embedding model 준비)python에서 openai 및 faiss 환경을 설정하기 위해서는 먼저 가상환경부터 구축부터 진행을 해야합니다.  1. miniconda에서 python 가상환경을 설정..