uclick.ai

04/01/2024

29/12/2023

기업들은 보유하고 있는 대규모 데이터를 활용하여 대규모 언어 모델(LLM)을 훈련하고 파인튜닝하는 데 점점 더 관심을 기울이고 있습니다.

그러나 데이터의 질이 열악하거나 편향된 정보를 포함하고 있다면, 이는 편견이나 오해, 심지어는 유해한 결과로 이어질 수 있습니다. 이는 AI의 결정과 예측의 정확도에 영향을 끼쳐 비즈니스에 부정적인 영향을 미칠 수 있습니다.

이러한 문제를 해결하려면 생성형 AI 같이 우선순위 높은 전략을 중심에 놓고 데이터 플랫폼 전략을 구상해야 합니다. 관련해 중요한 역할을 할 것으로 기대를 모으고 있는 것이 있습니다. 바로 데이터 레이크하우스입니다.

https://www.udna.kr/post/생성형-ai와-데이터-레이크하우스-전략의-융합-2024년에-트렌드로-자리잡을까

29/12/2023

NVIDIA BioNeMo는 규모와 노하우에 관계 없이 생성 화학 모델인 Mega MulBART와 MoFlow, 단백질 언어 모델인 ESM1 및 ESM2, 포즈 예측을 위한 Diff Dock 등 다양한 모델을 신약 개발에 활용할 수 있는 길을 제시합니다. 이게 어떻게 가능한지에 대한 설명과 함께 간단한 데모 영상을 공유해 봅니다.

NVIDIA BioNeMo는 AI 기술을 활용하여 현대 신약 개발의 패러다임을 혁신하고 있습니다. NVIDIA의 다양한 기술과 서비스 그리고 플랫폼은 대규모 언어 모델과 생성형 AI에 즉각적으로 접근할 수 있는 기능을 제공하여, 신약 발견 및 개....

29/12/2023

NVIDIA 전문가들이 17개 산업에서 AI 기술이 2024년 어떤 혁신을 주도할 지 전망한 글이 올라왔습니다. 이 중 헬스케어 부문의 전망은 크게 두 가지 입니다. 하나는 외고 의사를 음성 등 다양한 소통수단을 동원해 돕는 AI 수실 어시스턴트이고 다른 하나는 신약 개발에 큰 기여를 할 생성형 AI(Generative AI)입니다. 이 중 신약 개발 관련 사례를 통해 어떤 변화가 일어날 지 Genentech 연구소의 Lab in the Loop' 혁신을 통해 알아보았습니다.

NVIDIA 전문가들이 17개 산업에서 AI 기술이 2024년 어떤 혁신을 주도할 지 전망한 글이 올라왔습니다. 이 중 헬스케어 부문의 전망은 크게 두 가지 입니다. 하나는 외고 의사를 음성 등 다양한 소통수단을 동원해 돕는 AI 수실 어시.....

29/12/2023

전 세계적으로 데이터센터 구축 붐이 일고 있습니다. 이런 분위기 속에서 데이터센터 설계와 구축이 새로운 전문 영역으로 부상하고 있습니다. 예전에는 IBM 등 몇몇 기업만 손을 대던 영역에 이제는 더 많은 플레이어가 들어오고 있는 것입니다. 새로운 카테고리로 자리 잡고 있는 데이터센터 설계와 구축 분야에 새로 진입한 신생 조직은 어떻게 경쟁력을 이어갈 수 있을까요? 그 답은 아마 디지털 트윈(Digital Twin)에 있지 않을까요? 관련해 실제 디지털 트윈 기술을 활용한 사례를 통해 데이터센터 설계와 구축의 미래 방향을 살펴보겠습니다.

전 세계적으로 데이터센터 구축 붐이 일고 있습니다. 사회, 경제, 문화 등 모든 분야에서 디지털 전환(DX)이 동시다발적으로 이루어지면서 일어나는 현상입니다. 한국도 예외는 아닙니다. 각 지자체는 차세대 데이터센터 구축 관...

01/12/2023

요즘 NGC가 그 가치를 재조명받고 있습니다. 그 이유는 사전 훈련된 모델을 검증된 리포지토리에서 가져와 파인튜닝을 하는 것이 새로운 개발 방식이자 문화로 자리를 잡고 있기 때문입니다. 그렇다면 NVIDIA의 NGC 카탈로그와 허깅페이스 같은 리포지토리는 어떤 이유로 인기를 끌게 되었을까요?

요즘 NGC가 그 가치를 재조명받고 있습니다. 그 이유는 사전 훈련된 모델을 검증된 리포지토리에서 가져와 파인튜닝을 하는 것이 새로운 개발 방식이자 문화로 자리를 잡고 있기 때문입니다. 그렇다면 NVIDIA의 NGC 카탈로그와 허.....

30/11/2023

오픈AI의 Chat GPT나 구글 Bard 같은 서비스를 이용하는 이들이 선호하는 조합은? 아마 생성 모델에 검색을 더하는 조합으로 답을 받는 것입니다. 거대 언어 모델(LLM)만 이용할 때보다 답변에 대한 신뢰감(?)이 더 들기 때문이 아닐까요. 관련해 사전 훈련을 마친 LLM 또는 Small LLM을 보유한 데이터를 활용해 파인튜닝하여 고객 또는 조직원을 위한 생성형 AI 기반 서비스를 제공하고자 할 때 RAG 적용 시 참조할 만한 NVIDIA의 생성형 AI 워크플로우를 소개하고자 합니다. 참고로 NVIDIA는 주요 산업/도메인에서 LLM 기반 서비스 구현을 간소화할 수 있는 NVIDIA AI 워크플로우를 제공합니다. 이 참조 워크플로우의 하나로 NVIDIA는 생성형 AI 워크플로우도 제공합니다.

오픈AI의 Chat GPT나 구글 Bard 같은 서비스를 이용하는 이들이 선호하는 조합은? 아마 생성 모델에 검색을 더하는 조합으로 답을 받는 것입니다. 거대 언어 모델(LLM)만 이용할 때보다 답변에 대한 신뢰감(?)이 더 들기 때문이 아닐까...

29/11/2023

Jetpack 6의 출시로 엣지 컴퓨팅 분야에서 생성형 AI 모델과 LLM(대규모 언어 모델)을 사용하는 것이 훨씬 쉬워질 전망입니다. 2020년에 트랜스포머와 암페어 A100 GPU가 소개된 이후, AI 모델의 크기와 지능성이 급격하게 성장했는데, 이러한 변화는 Lama, Lama 2와 같은 오픈 소스 모델의 출시로 더욱 가속화되었습니다.

그러나 이러한 거대 모델들을 데스크톱이나 엣지 장치에서 실행하는 것은 큰 도전이었습니다. 이에 따라 로컬 및 임베디드 장치에서 이러한 모델을 배포하는 것에는 상대적으로 관심을 두는 이들이 많지 않았습니다. 그러나 Jetson 플랫폼을 통해 엣지에서 이러한 모델을 배포하는 것이 앞으로는 일반적인 작업이 될 것으로 보입니다.

Jetpack 6의 출시로 엣지 컴퓨팅 분야에서 생성형 AI 모델과 LLM(대규모 언어 모델)을 사용하는 것이 훨씬 쉬워질 전망입니다. 2020년에 트랜스포머와 암페어 A100 GPU가 소개된 이후, AI 모델의 크기와 지능성이 급격하게 성장했는데, .....

29/11/2023

NVIDIA Holoscan for Media는 EBU(유럽방송연합)의 동적 미디어 시설(Dynamic Media Facility, DMF) 비전을 실현하는 솔루션입니다. DMF란 개념이 낯설 것입니다. 유럽방송연합은 미래 미디어 제작이 매우 유연하고 역동적인 기술 접근 방식을 채택할 것이라는 비전을 제시합니다. NVIDIA Holoscan for Media는 유럽방송연합의 DMF 비전을 실현하는 데 중요한 역할을 합니다. 이 플랫폼은 방송사가 여러 벤더의 하드웨어를 하나의 플랫폼에서 재활용할 수 있도록 소프트웨어 미디어 기능을 제공합니다. NVIDIA Holoscan for Media는 방송 업계의 디지털 전환 전략에 중요한 기여를 할 것으로 보입니다.

NVIDIA Holoscan for Media는 EBU(유럽방송연합)의 동적 미디어 시설(Dynamic Media Facility, DMF) 비전을 실현하는 솔루션입니다. DMF란 개념이 낯설 것입니다. 유럽방송연합은 미래 미디어 제작이 매우 유연하고 역동적인 기술 접근 방식을 채....

29/11/2023

NVIDIA의 그레이스 CPU는 데이터 센터용으로 설계된 NVIDIA의 첫 번째 CPU로, 뛰어난 단일 및 멀티스레드 성능, 높은 메모리 대역폭, 우수한 전력 효율성을 자랑합니다. 이 CPU는 AI, 고성능 컴퓨팅(HPC), 클라우드 컴퓨팅을 가속합니다. 이 포스팅에서는 Nsight Systems 도구를 이용한 NVIDIA Grace CPU 성능 튜닝을 간단히 살펴보겠습니다.

NVIDIA의 그레이스 CPU는 데이터 센터용으로 설계된 NVIDIA의 첫 번째 CPU로, 뛰어난 단일 및 멀티스레드 성능, 높은 메모리 대역폭, 우수한 전력 효율성을 자랑합니다. 이 CPU는 AI, 고성능 컴퓨팅(HPC), 클라우드 컴퓨팅을 가속합니다. ....

31/10/2023

Nemo steer LM은 최근 거대 모델 기반 생성형 AI 모델 최적화 관련해 주목받는 기술 중 하나입니다. 이 기술을 통해 사용자는 모델의 속성을 추가하거나 제거함으로써 더욱 세밀한 조정과 훈련이 가능해지는데, 이에 예제를 통해 알아보겠습니다.

Nemo steer LM은 최근 거대 모델 기반 생성형 AI 모델 최적화 관련해 주목받는 기술 중 하나입니다. 이 기술을 통해 사용자는 모델의 속성을 추가하거나 제거함으로써 더욱 세밀한 조정과 훈련이 가능해지는데, 이에 대해 상세히 알....

31/10/2023

생성형 AI를 엣지에 적용하는 것은 조만간 대세가 되지 않을까요? 만약 관심이 있다면 Jetson Generative AI Lab을 통해 사전 훈련과 평가를 해보세요. 관련해 이번 포스팅에서는 AI 모델을 배포하는 엣지 장치를 위한 데이터베이스로 NanoDB를 활용하는 것을 배울 수 있는 Jetson Generative AI Lab의 튜토리얼을 간단히 소개해 볼까 합니다.

생성형 AI를 엣지에 적용하는 것은 조만간 대세가 되지 않을까요? 만약 관심이 있다면 Jetson Generative AI Lab을 통해 사전 훈련과 평가를 해보세요. 관련해 이번 포스팅에서는 AI 모델을 배포하는 엣지 장치를 위한 데이터베이스로 Na...