美初創公司Data2推出抗幻覺、可解釋的人工智能技術
責編：gltian ｜2025-07-11 17:44:28美國專利商標局（USPTO）日前授予Data2公司一項新技術專利，該技術旨在提升人工智能的可解釋性和抗幻覺性。
Data2是一家由美國退伍軍人創立的科技初創公司，新研發的技術將揭開人工智能的“黑箱”，提升在國防、情報和國家安全等高風險的使命任務領域采納和應用智能技術時的信任度。
Data2公司首席執行官喬恩·布魯頓曾是一名空軍，他與退役海軍海豹突擊隊指揮官克里斯·羅爾巴赫、海軍陸戰隊隊員埃里克·科斯坦蒂尼以及曾在石油天然氣行業共事的杰夫·達爾格利什共同創立了該公司，石油天然氣行業也是公司創立的關鍵行業之一。此外，該組織的顧問團隊包括前聯邦首席信息官（CIO）蘇珊特·肯特和前美國情報界首席數據官南希·摩根等成員。2023年初，該團隊參加了空軍研究實驗室（AFRL）和太空軍的“催化劑加速器”（Catalyst Accelerator）計劃，并向情報界介紹了一個相關概念驗證。
布魯頓表示，專業背景對公司的發展至關重要，特別是在理解曾服役軍種的未解決需求方面。“我們依靠專業知識和背景來指引方向并聚焦真正關注的重點，當前瞄準的是國防、情報和金融等領域的高可靠性行業應用。”尤其是在國防和情報領域，這些組織對失敗的容忍度很低。“但這意味著他們終于可以構建和部署他們能夠信任并用于做出關鍵任務決策的人工智能。我認為這是一個真正的差異化優勢，因為我們談論的不是普通的聊天機器人功能，而是構建更可靠、并擁有系統性流程以產生可信賴輸出的系統。”
布魯頓稱：“我們試圖構建的未來是，戰場上的軍事指揮官能夠信任人工智能生成的戰場評估，網絡安全分析師能夠依賴人工智能近實時地響應威脅。我們正努力使人工智能對政府而言值得信賴，以便他們能在關鍵任務領域使用它，讓人與機器真正開始共同做出更好的決策，能夠開始從他們已擁有的數據以及這項技術和能力中創造價值。”
布魯頓解釋，這項專利在設計上是與技術無關的（technology agnostic），可以與任何人工智能模型或生態系統協同工作，因為它是在組織現有數據之上使用“知識圖譜”（knowledge graph）技術，將人工智能建立在事實基礎之上，使得“每一個人工智能生成的答案都錨定在可驗證、可追溯的源數據上，引用精確到數據記錄級別”。
盡管取得了重大進展，但當今的基礎人工智能模型仍然存在機器幻覺且常常不可靠，令軍方擔憂。布魯頓表示，正因如此，Data2采取了以數據為中心的方法來“解決信任、透明度和可解釋性的缺失問題”。“最終，我們在流程非常早期的階段就發現，更好的數據架構和更好的數據結構——而非更好的模型，才是解鎖如何在可解釋性、可追溯性和透明度方面取得進步的關鍵，這進一步指導了我們開發的專利。”
目前，Data2的業務模式是與亞馬遜、微軟、戴爾和英偉達等大型技術供應商合作，利用它們廣泛的影響力，以盡可能廣泛的方式提供服務，并借助一些“品牌資產”以及與“一些行業最受信任的技術合作伙伴、美國政府的大規模頂級技術提供商”的關系。
布魯頓稱，“專利能力不局限于某種數據架構、某種數據類型或某個大語言模型，也不局限于某種環境。我們已經測試了從完全云托管的環境到完全物理隔離（air-gapped）部署的邊緣套件等各類條件。”