'데이터 엔지니어'로 성장하기

정리하는 걸 좋아하고, 남이 읽으면 더 좋아함

인기글

Airflow) celery worker 환경 구성하기

airflow는 airbnb에서 만든 workflow 관리 플랫폼이에요 - 배치 파일을 순차적으로 돌릴 수도 있어요 - 이쁜 젠킨스 최근에 공부를 하게되면서 알게된 구조와 centos7에서 테스트한 예시를 메모하려고해요 airflow hello-world하면서 느낀점은 여기에 정리했어요 :) Airflow) 공부 및 적용기(메모) 최근에 airflow를 공부하고 있어요. 원래는 kubernertes의 설정 파일을 던지는 친구로 알고 보고 있엇는데, 배치파일 돌리는 작업으로 세팅 중이에요 이제 며칠봐서 틀릴 수도 있지만 제가 공부한 내 mightytedkim.tistory.com 구성 airflow webserver - airflow UI - workflow 상태 표시하고 실행, 재시작, 수동 조작, 로그..

Airflow 2021.10.12 0

Harbor) 인증서 설정하기_docker,linux

기본적으로 harbor는 https로 설정이 되어 있다. 처음에 http로 연결하다가, 다른 부분들에서 걸려서 https로 바꿈 CA certificate Harbor가 설치되어 있는 linux에 세팅함 (테스트) ROOT-CA용 crt 생성 crt를 제공받아야하는데, 테스트니까 1. Private key(*.ca.key) 를 만든다. 2. ca.key로 *.ca.crt를 만든다. # openssl을 이용해서 CA certicate 프라이빗 키 생성 openssl genrsa -out ca.key 4096 # CA certifice 생성 openssl req -x509 -new -nodes -sha512 -days 3650 \ -subj "/C=KO/ST=Kim/L=TedO=SK/OU=AI/CN=mydo..

Docker 2021.09.10 0

데이터 잡부의 MLOps도전기 (2) - 라벨링 툴로 CVAT을 선택한 이유 #VISION

라벨링 툴로 왜 CVAT을 선택했는지 정리했습니다 :) 글의 구조는 아래와 같습니다.CVAT이 뭐에요?선택한 이유는 뭐에요?아쉬운 점은 뭐에요?. 글의 타깃 독자는 아래와 같습니다.Labeling 툴 도입을 고민하시는 분CVAT을 사용하시는 분CVAT 도입을 고민하시는 분. 지난 포스팅에서는 Vision MLOps 프로젝트에 투입된 배경에 대해서 정리했어요 https://mightytedkim.tistory.com/205 데이터 잡부의 도전기 #Vision#CVAT#Nuclio23년 하반기는 힘들었지만 재미있었어요. 새로운 분야를 접했거든요 '데이터 잡부'의 도전에 대해 정리하려 합니다 :) 글의 구조는 아래와 같습니다. 원래 하던 업무 (pipeline) 제안받은 업무 (MLops)mightytedki..

MLOps 2024.01.21 0

Kubernetes) Forbidden User 보는 방법_role,sa

Forbidden 에러, clusterrole과 serviceaccount로 해결 clusterrole과 serviceaccount 확인하기 spark 테스트하는 도중 권한 관련 로그를 접했어요 #kubernetes.client.rest.ApiException: (403) #Reason: Forbidden #HTTP response headers: HTTPHeaderDict({'Cache-Control': 'no-cache, private', 'Content-Type': 'application/json', 'X-Content-Type-Options': 'nosniff', 'Date': 'Fri, 19 Nov 2021 06:50:38 GMT', 'Content-Length': '417'}) #HTTP re..

K8S 2021.11.23 0

Docker) [해결] dial tcp: lookup docker on *.*.*.*:53: no such host_gitlab-runner

오류 해결 dial tcp: lookup docker on 19.32.192.11:53: no such host 상황 dind 안에서, docker login 안됨 $ docker login -u deet1107 -p ****** WARNING! Using --password via the CLI is insecure. Use --password-stdin. error during connect: Post http://docker:2375/v1.39/auth: dial tcp: lookup docker on **.*.***.**:53: no such host 조치 HTTP 프록시 설정 Variables: HTTPS_PROXY: http://***.219.61.252:8080 HTTP_PROXY: http..

Docker 2021.09.08 0

최신글

more

Vision-AI) coco dataset을 mask로 변환하기_coco2mask

이전 포스팅에서는 mask를 coco dataset으로 변환했습니다.https://mightytedkim.tistory.com/215 Vision-AI) mask 이미지 coco datset으로 변환하기_mask2cocococo 이미지를 mask로 변환하는 법이 있다면, 그 반대도 있겠죠. 이번에는 mask 이미지를 이용해서 coco datset을 만들어보겠습니다.실행하고 나면 파일이 생성된 것을 확인할 수 있습니다.사용한 변mightytedkim.tistory.com 이번에는 반대로 mask를 coco로 변환해보겠습니다. 이제 확인해봐야겠죠.이전 포스팅에서 mask와 coco를 시가화하는 글을 썼는데 이걸 이용해볼게요1. https://mightytedkim.tistory.com/212 Vision-A..

Vision 2024.05.08 0

Vision-AI) mask 이미지 coco datset으로 변환하기_mask2coco

coco 이미지를 mask로 변환하는 법이 있다면, 그 반대도 있겠죠. 이번에는 mask 이미지를 이용해서 coco datset을 만들어보겠습니다.실행하고 나면 파일이 생성된 것을 확인할 수 있습니다.사용한 변수는 아래와 같습니다여기서 주의할 점은 pixel 0의 경우 일반적으로 category_list에서 unlabeled 가 없는 값을 넣어줍니다.만약 넣으면 json 파일이 기가 단위로 나올 수 있어요. 잘 생성되었는지 확인해봐야겠죠?전에 포스팅했던 글의 class를 써보도록 하겠습니다.잘 나오는 것을 확인했습니다 :)https://mightytedkim.tistory.com/212  Vision-AI) coco dataset 시각화 하기 (코드 포함)coco dataset을 시각화하는데는 많은 방법..

Vision 2024.05.08 0

Vision-AI) prediction mask 시각화하기 (train용 mask와 class별로 비교)

이전 포스팅에서는 학습 전 mask를 확인하는 코드를 소개했어요https://mightytedkim.tistory.com/213 Vision-AI) Mask 정리해서 시각화하기(one-hot, show_channel)semantic segmentation에서mask가 제대로 만들어졌는지 궁금할 때가 있어요. 이걸 위해서 MaskViewer라는 class를 만들었어요. 원본 이미지와 mask 이미지만 보려고 할때는 아래처럼 show_channeld=False를 입력mightytedkim.tistory.com 이번에는 prediction도 함께 비교하는 코드를 소개하려고 해요 이전 포스팅에서의 MaskViewer를 사용해도, prediction mask를 똑같이 볼 수 있어요 하지만 어떤 class가 매칭이..

Vision 2024.05.08 0

Vision-AI) Mask 정리해서 시각화하기(one-hot, show_channel)

semantic segmentation에서mask가 제대로 만들어졌는지 궁금할 때가 있어요. 이걸 위해서 MaskViewer라는 class를 만들었어요. 원본 이미지와 mask 이미지만 보려고 할때는 아래처럼 show_channeld=False를 입력하면 됩니다. 채널 별로 보고 싶으면 show_channels=True를 입력하면 되요 코드는 아래와 같습니다.class MaskViewer: def __init__(self, input_img_dir, input_mask_dir, cat_names):#cat_names self.input_img_dir = input_img_dir self.input_mask_dir = input_mask_dir self.cat_n..

Vision 2024.05.08 0

Vision-AI) coco dataset 시각화 하기 (코드 포함)

coco dataset을 시각화하는데는 많은 방법이 있습니다이번 포스팅에서는 소개하려고 합니다. 예상 독자는 아래와 같습니다1. coco datset 테스트가 필요하신 분2. 바로 사용할 수 있는 정리된 class가 필요하신 분 목차는 아래와 같습니다.1. matplotlib 사용 pycoco도 많이 사용하시는데, 저는 불편하더라고요. id값이 int가 아니면 오류를 뱉는다던가 제약들이 있어가지고.그래서 제가 편하게 사용하려고 아래 코드를 만들었습니다.import osimport jsonimport cv2import numpy as npimport matplotlib.pyplot as pltfrom matplotlib.patches import Polygonfrom collections import Co..

Vision 2024.05.08 0