기록의 공간 :: mightytedkim

2022년 9월에 공개된 1.0.0 버전을 설치해봤어요 지금 대격변기여서, 공식 문서도 약간 부실한거같고, 인터넷에 질문 99%가 예전 버전들이라 힘들었어요ㅋㅋ 요약 예상 독자는 아래와 같아요 bentoml로 모델 배포를 어찌하는지 궁금하신 분 1.0.x 버전의 yatai, yatai-deployment 설치 예정이신분 0.4.6 버전과의 차이점이 궁금하신 분 구성은 아래와 같아요. `yatai, yatai-deployment 란? yatai yatai-deployment 1.0에서 변한 것 테스트 모델 push 모델 배포 설치 yatai:1.0.0-a0 yatai-deployment:1.0.0-a2 기타 설명 1. yatai, yatai-deployment란? bentoml도 편리하지만, yatai를 ..

최근에 MLOps를 공부하고 있어요. Mlflow + FastAPI + CI/CD로 rest api를 만들기는 했는데 생각보다 손이 많이가더라고요. Mlflow + bentoml을 많이 사용한다길래 bento 찍먹 해봤습니다. 1.x 버전이 나와서 따라해봤는데, 예전 버전과 코드가 좀 달라젹더라고요 + 추가 mlflow는 파라미터 저장 및 관리로 사용하고 bentoml은 mlflow의 model을 배포하는 방식으로 사용할 예정입니다. yatai/ yatai-deployment 사용하니까 신세계인 것 같아요. UI로 다다닥 선택하면, 배포까지 되더라고요. scale out 옵션도 있고요 yatai로 배포한 내용 $ k get all -n yatai | grep iris pod/iris-test2-7f685..