기록의 공간 :: mightytedkim

Model의 동적 배포를 위해서, FaaS를 도입한 이야기를 정리하는 중입니다.nuclio 기본 개념을 더 설명해야할 것 같아서 이번 글은 기초를 설명합니다 글의 구조는 아래와 같습니다.Nuclio 설치 방법Nuclio 실행 방법 - python hello worldNuclio 실행 방법 - vision - facebook (Segmenation Anyting Model)글의 타깃 독자는 아래와 같습니다.Nuclio 설치가 궁금하신 분Nuclio hello world가  궁금하신 분지난 포스팅에서는 아래 3가지를 적었고Vision MLOps 프로젝트 투입: https://mightytedkim.tistory.com/205라벨링 툴로 CVAT을 선택한 이유: https://mightytedkim.tisto..

Model의 동적 배포를 위해서, FaaS를 도입한 이야기를 적어봤습니다. 글의 구조는 아래와 같습니다.Nuclio가 무엇인가요?왜 굳이 Nuclio인가요?CVAT과 어떻게 연동을 하나요?.글의 타깃 독자는 아래와 같습니다.Nuclio(FaaS)에 대해 궁금하신 분Vision ML 인퍼런싱을 고려하는 분CVAT을 사용하시는 분지난 포스팅에서는 아래 2가지를 적었고Vision MLOps 프로젝트 투입: https://mightytedkim.tistory.com/205라벨링 툴로 CVAT을 선택한 이유: https://mightytedkim.tistory.com/206이번에는 `동적 모델링`을 위해 ‘FaaS’인 ‘Nuclio’를 도입한 내용을 적었어요.1. Nuclio가..

라벨링 툴로 왜 CVAT을 선택했는지 정리했습니다 :) 글의 구조는 아래와 같습니다.CVAT이 뭐에요?선택한 이유는 뭐에요?아쉬운 점은 뭐에요?. 글의 타깃 독자는 아래와 같습니다.Labeling 툴 도입을 고민하시는 분CVAT을 사용하시는 분CVAT 도입을 고민하시는 분. 지난 포스팅에서는 Vision MLOps 프로젝트에 투입된 배경에 대해서 정리했어요 https://mightytedkim.tistory.com/205 데이터 잡부의 도전기 #Vision#CVAT#Nuclio23년 하반기는 힘들었지만 재미있었어요. 새로운 분야를 접했거든요 '데이터 잡부'의 도전에 대해 정리하려 합니다 :) 글의 구조는 아래와 같습니다. 원래 하던 업무 (pipeline) 제안받은 업무 (MLops)mightytedki..

23년 하반기는 힘들었지만 재미있었어요. 새로운 분야를 접했거든요 '데이터 잡부'의 도전에 대해 정리하려 합니다 :) 글의 구조는 아래와 같습니다. 원래 하던 업무 (pipeline) 제안받은 업무 (MLops) 수락하게 된 이유 . 글의 타깃 독자는 아래와 같습니다. MLops/AI 분야 병아리를 구경 온 선배님들 이제 MLops/AI 분야를 들어오려는 동지들 폐쇄망에서 어찌 진행했는지 궁금한 엔지니어들 . 자 이제 들어갑니다. 1. 원래 하던 업무 (pipeline) 폐쇄망에서, 해외 공장들의 data를 실시간으로 수집하는 pipeline 구축 #kafka, nifi, airflow, K8s, Ceph 기존에는 파이프라인 구축 업무를 했어요 처음 2년은 재미있었는데, 시간이 지나면서 매너리즘에 빠졌어..

2022년 9월에 공개된 1.0.0 버전을 설치해봤어요 지금 대격변기여서, 공식 문서도 약간 부실한거같고, 인터넷에 질문 99%가 예전 버전들이라 힘들었어요ㅋㅋ 요약 예상 독자는 아래와 같아요 bentoml로 모델 배포를 어찌하는지 궁금하신 분 1.0.x 버전의 yatai, yatai-deployment 설치 예정이신분 0.4.6 버전과의 차이점이 궁금하신 분 구성은 아래와 같아요. `yatai, yatai-deployment 란? yatai yatai-deployment 1.0에서 변한 것 테스트 모델 push 모델 배포 설치 yatai:1.0.0-a0 yatai-deployment:1.0.0-a2 기타 설명 1. yatai, yatai-deployment란? bentoml도 편리하지만, yatai를 ..

mlflow를 설치하고 hello world를 실행해봤어요 모델러 입장에서는 git처럼 이력 관리를 할 수 있고, 엔지니어 입장에서는 api를 특정 시점으로 변경할 수 있어서 좋은 것 같아요 제가 생각한 장점은 일단 쉽고 이뻐요 - UI 가 이쁘다. - 모델간의 비교가 가능하다. - 모델 정보를 s3에 저장할 수 있다. (pickle, source, parameter, etc) 요약 1. k8s에 mlflow 설치 2. juptyterhub로 테스트 3. airflow로 테스트 4. 결론 설명 1. k8s에 mlflow 설치 mlflow-pgsql.yaml mlflow-pvc.yaml mlflow.yaml https://mightytedkim.tistory.com/55 2. juptyterhub로 테스트..

mlflow는 모델을 저장하고 비교하는 플랫폼 서빙까지는 좀 무리가 있는것 같아요 airflow에서 mlflow로 던지는 방법으로 사용하려고 해요 결과 # $k get all -n mlflow NAME READY STATUS RESTARTS AGE pod/mlflow-deployment-75686677bf-k4bvx 1/1 Running 4 (51d ago) 59d pod/mlflow-postgres-0 1/1 Running 1 (51d ago) 59d NAME TYPE CLUSTER-IP EXTERNAL-IP PORT(S) AGE service/mlflow-postgres-service NodePort 10.98.250.201 5432:30112/TCP 59d service/mlflow-service ..