AI를 강화하는 센티언트 랩: 지능형 신뢰성을 재창조하는 오픈 소스 추론 검색

피터 틸의 파운더스 펀드가 주도하는 8500만 달러 규모의 시드 라운드에서 투자한 Sentient Labs가 새로운 오픈 소스 AI 검색 프레임워크인 온라인 검색을 출시했습니다. 센티언트 랩스는 최근 새로운 오픈 소스 AI 검색 프레임워크인 오픈 딥 서치(ODS)를 출시했습니다. 오픈 딥서치(ODS). 이 프레임워크는 AI에 검색, 추론, 검증 기능을 제공함으로써 AI 착시 문제를 완화하는 것을 목표로 합니다.

AI 환각이란 무엇인가요?

AI 환각은 AI 모델이 말이 되는 것처럼 보이는 정보를 생성하지만 실제로는 잘못된 정보를 생성하는 것을 말합니다. align: left;">  사실, 인과관계 또는 타임라인을 혼동

  그럴듯해 보이지만 실제로는 잘못된 결론을 조합

이 현상의 근본 원인은 현재 AI 모델이 다음에 크게 의존하고 있기 때문입니다. 트레이닝 데이터의 패턴 인식에 크게 의존하는 대신 정보의 진실성을 이해하고 검증하기 때문입니다.

ODS: AI의 사실 확인 도우미

< span text="">ODS는 AI 모델에 대한 검색, 추론 및 검증을 제공하도록 설계된 다중 도구 협업오픈 소스 검색 에이전트 시스템입니다. 추론 및 검증 기능을 제공합니다. 핵심 구성 요소는 다음과 같습니다.

  오픈 검색 도구(OST)

OST는 사용자의 의도를 이해하고, 검색어를 지능적으로 생성하고, 인터넷을 크롤링하여 검증된 정보를 찾고, 검색 결과를 의미적으로 재배열, 필터링 및 집계하여 품질을 개선하고, 검색 결과를 통합합니다.

  개방형 추론 에이전트(ORA)

ORA는 인간의 다단계 추론 과정을 모방하여 정보가 부족할 때 선제적으로 두 번 쿼리하고 다양한 외부 도구 또는 플러그인을 호출하며 복잡한 논리 또는 계산을 해결하기 위해 Python 코드를 생성 및 실행할 수도 있습니다. .

ODS의 장점

해석 가능:< span text="">ODS 작업의 모든 단계가 표시되므로 사용자가 AI의 추론 링크와 정보 소스를 역추적할 수 있어 시스템의 투명성과 신뢰성을 높일 수 있습니다.

사용 편의성:ODS는 모든 대규모 언어 모델과 외부 도구 또는 플러그인에 대한 액세스를 지원합니다. 다양한 애플리케이션 시나리오에 맞게 추론 규칙을 사용자 지정할 수 있습니다.

오류 정보 줄이기:ODS는 여러 소스의 교차 비교를 기반으로 키워드 매칭에 따른 잘못된 결론의 수를 효과적으로 줄일 수 있습니다. 여러 소스를 상호 참조하고 키워드 매칭만으로 잘못된 결론을 내리지 않도록 사전에 2차 쿼리를 수행함으로써 ODS는 잘못된 정보, 허위 정보, 오해의 소지가 있는 정보의 유포를 효과적으로 줄일 수 있습니다.

실제 적용 사례

헬스케어:AI 모델은 잘못된 진단 추천을 생성하여 심각한 결과를 초래할 수 있습니다. ODS를 통합하면 의료 AI 시스템은 최신 의학 연구와 권위 있는 가이드라인을 자동으로 검색하여 진단 추천을 생성하기 전에 정보의 정확성을 검증함으로써 진단의 신뢰성을 향상시킬 수 있습니다.

금융 부문: AI 모델은 오래되거나 부정확한 데이터를 기반으로 투자 추천을 내릴 수 있습니다. AI 시스템이 최신 시장 데이터와 분석 보고서에 실시간으로 액세스하고 여러 검증을 수행하여 투자 추천의 정확성과 적시성을 보장합니다.

요약

요약

DS의 출시는 오픈 소스 AI 검색 기술의 획기적인 발전을 의미합니다. AI 시스템의 투명성과 제어 가능성을 향상시킬 뿐만 아니라 개발자에게 더욱 안정적이고 신뢰할 수 있는 AI 애플리케이션을 구축할 수 있는 강력한 도구를 제공합니다. ODS가 계속 발전함에 따라 오픈 소스 AI가 미래 기술 생태계에서 더욱 중요한 역할을 할 것이라고 믿어 의심치 않습니다.