IT16 내 컴퓨터에 달린 GPU로 LLM 모델 돌릴 수 있을지 계산해보는 사이트 https://huggingface.co/spaces/Vokturz/can-it-run-llm Can You Run It? LLM version - a Hugging Face Space by Vokturz huggingface.cohuggingface의 can it run llm 사이트에서 내 컴퓨터에 달린 GPU로 LLM 모델을 돌릴 수 있을 지 계산이 가능하다.게임용으로 산 NVIDIA GeForce RTX 4060으로는 NousResearch/Meta-Llama-3-8B-Instruct 라는 llama3 8b 모델을 돌릴 수 있는지 확인해봤다70B는 어림도 없어서 8B로 바꿔봄full training 은 어려워도 inference와 fine-tuning은 가능하다고 함돌리지 못하는 경우, 같은 종류.. 2025. 1. 22. 데이터분석가에서 AI 백엔드 엔지니어가 되려면 어떤 걸 공부해야 할까 공부할 것들진로를 정하지 못하고 방황을 하고 있다. 현재 업무에서 필요한 것은 개발 tool 사용법과 컴퓨터 공학 기초이다. 그리고 내가 하고 싶은 업무에서 필요한 것은 마찬가지로 컴퓨터 공학 기초일 것shrimp-taco.tistory.com작년 이맘때쯤 고민했던 것들과 비슷한 고민을 하고 있다.공부하려고 했던 것들 중 리눅스 마스터 1급 자격증은 땄고, 다른 것들은 미루고 있다.AWS 관련해서는 교육을 들을 수 있는 기회가 생겨서 Machine Learning Associate 자격증 관련해서 공부를 시작해보려고 한다.채용 공고들을 구경하던 중에 관심이 가는 공고를 발견했다.AI Backend Engineer라고 하는데 AI 서비스를 위한 백엔드 아키텍처를 설계하고 서비스 개발과 운영을 담당한다고 한.. 2024. 10. 23. 제 2402회 리눅스마스터 2급 2차 가답안 시험 후기 제 2402회 리눅스마스터 2급 2차 가답안6월 8일에 봤던 리눅스마스터 2급 2차 시험 가답안이 6월 10일에 올라왔다.지난 시험 일정과 가답안 올라온 날을 보니 10일이나 11일 중으로 올라올 것 같긴 했다.오후에 퇴근하고 확인해보니 가답안이 올라와있어서 바로 채점해 봤다. KAIT 자격검정KAIT에서 시행하는 정보통신기술자격검정시험에 많은 관심과 성원을 보내주신 수험자 여러분과 교육 기관관계자 여러분께 감사의 말씀을 드립니다. 급속한 정보통신관련기술 등의 변화로 인해ihd.or.kr 리눅스마스터 2급 2차 2주 벼락치기 시험 후기필기 공부라는 것을 해본지가 오래되어서인지, 시험이 끝나고 나서야 효율적인 공부 순서를 알 것 같았다. 1. 교재 내용 읽기모든 챕터의 내용 1회독은 하는 것이 좋다. 2... 2024. 6. 13. AWS Machine Learning Specialty 계획 현재 업무와 하고싶은 업무와 관련하여 공부할 것들을 정리한 적이 있다. 공부할 것들 진로를 정하지 못하고 방황을 하고 있다. 현재 업무에서 필요한 것은 개발 tool 사용법과 컴퓨터 공학 기초이다. 그리고 내가 하고 싶은 업무에서 필요한 것은 마찬가지로 컴퓨터 공학 기초일 것 shrimp-taco.tistory.com 요즘은 내가 흥미를 느끼는 분야에 집중해서 공부하는 게 더 좋을 것 같다. 현재 일과는 상관 없는 걸 퇴근 후에 공부하려니 열정과 의욕이 없어졌다. 그렇지만 며칠 전에 내가 원하는 분야와 관련된 세미나를 준비하는 과정에서는 다시 살아나는 느낌이 들었다. 내가 진짜로 흥미를 느낄만한 일을 하지 않았던 거였나 보다. 나는 시간과 에너지를 투자할 때 재미있는 일이 필요한 사람이다. 그래서 발전하.. 2024. 3. 22. 이전 1 2 3 4 다음
