U.S. semiconductor company Nvidia said it has developed software to reduce the number of incorrect answers given by artificial intelligence chatbots. The program, called "NeMo Guardrails," gives software developers the ability to prevent AI models from stating untrue facts or answering harmful topics such as off-topic "hallucinations," Nvidia said, Nvidia said the program helps prevent AI models from answering questions on harmful topics, including blocking off-topic "hallucinations.
미국 반도체 기업 엔비디아가 인공지능 챗봇의 오답을 줄이는 소프트웨어를 개발했다고 밝혔다. 엔비디아는 '네모 가드레일'(NeMo Guardrails)이라는 이름의 이 프로그램은 소프트웨어 개발자들에게 AI 모델이 사실과 다른 팩트를 말하거나, 주제를 벗어나는 '환각'(hallucination)을 차단하는 등 유해한 주제에 대해 답하지 못하도록 하는 데 도움을 준다고 설명했다.
소셜댓글