Atnaujinta 2026 m.
22,7% tikslumo problema
2024 m. tyrimas pateste Microsoft Presidio su verslo bylomis. Presidio yra atvirojo kodo AAS įrankis. Teisinės komandos ir sveikatos priežiūros grupės jį placėiai naudoja.
Tyrimas matavo, kaip dažnai Presidio buvo teisus. Iš visų elementų, kuriuos jis pazėmėjo kaip asmenvardžius, kiek iš tikrųjų buvo asmenvardžiai?
Atsakymas buvo 22,7%. Apie 77 iš kiekvieno 100 pazėmėjimų buvo neteisingi. Tyrimas suskaičiavo 13 536 klaidingus pazėmėjimus visose 4 434 imčių bylose.
Klaidos nebuvo atsitiktinės. Jos sekė aiškius modelius:
- įvardžiai pazėmėti kaip žmonės (pvz., I sakinio pradzųioje)
- Laivų etiketes pazėmėtos kaip žmonės (pvz., ASL Scorpio)
- Įmonų etiketes pazėmėtos kaip žmonės (pvz., Deloitte & Touche)
- Šalių terminai pazėmėti kaip žmonės (pvz., Argentina, Singapore)
Nė vienas iš jų nėra retas kraštutinis atvejis. Jie atsiranda kai bendrinis NLP modelis susitinka su srities specifiniais tekstais. Modelis nebuvo sukurtas juos atskirti.
Ką kainuoja klaidingi pazėmėjimai
Teisinėje ir sveikatos priežiūros srityje kiekvienas pazėmėjimas reikalauja atsakymo. Komandos susiduria su trimis galimybėmis. Visos trys turi realius kaštus.
1 galimybė: žmogus tikrina kiekvieną pazėmėjimą. Teisininko ir eksperto laikas kainuoja nuo 200 iki 800 USD per valandą. Esant 22,7% tikslumui, apimtis yra didžiulė. Tai nėra įmanoma dideliu matu. Zųr. e-atradimų AAS automatizavimas ir teisinių peržiūros kaštų mažinimas, kaip peržiūros kaštai auga su apimtimi.
2 galimybė: praleisti peržiūrą ir pasitikėti išvestimi. Tai taip pat rizikinga. Kai 77% redaguotų elementų nėra jatrus, sukuriate teisinę riziką. Teismai baudė teisininkus už per dizelį redagavimą. Zųr. e-atradimų per didelio redagavimo sankcijos dokumentuotiems atvejams.
3 galimybė: pakelti balo slenksctį. Presidio leidžia vartotojams nustatyti score_threshold, kad atmėstų silpnus pazėmėjimus. 2024 m. DICOM tyrimas tai pateste ties 0,7 - gana aukšta riba. Rezultatas: 38 iš 39 DICOM vaizdų vis dar turėjo klaidingo pazėmėjimo. Slenksčiai padeda. Jie neištaiso šakininės priežasties.
Kodėl bendrinis NLP čia kovoja
Presidio spraga kyla iš neatitikimo tarp mokymo duomenų ir realaus naudojimo.
Teisinės bylos yra pilnos didžiosiomis raidėmis rašytų terminų. Bylų pavadinimai, įstatymu pavadinimai ir parodos kodai visi atrodo kaip asmeniniai duomenys bendriniui modeliui. Jis juos pazėmi. Dauguma jų nėra asmeniniai duomenys.
Sveikatos priežiūros bylos prideda vaistų pavadinimus, prietaisų kodus ir klinikės trumpinius. Pt. reiškia Pacientas. Dr. reiškia Daktaras. Tai apsunkina objektų aptikiimą sunkiai nuspėjamai.
Finansu bylos turi produktų kodus, objektų eilutes ir sąskaitų ID, kurie dalijasi paviršiaus modeliais su asmeniniais įrašais.
Modelio derinimas naudojant srities duomenis padeda. Tačiau tai reikalauja laiko ir pastangų sukurti ir atnaujinti.
Kaip hibridinis aptikimas tai ištaiso
Klaidingo pazėmėjimo problema turi aišką sprendimą. Paskirstykite darbą pagal duomenų tipą.
Modelio taisyklės struktūriniams duomenims. Socialinio draudimo numeriai, telefono numeriai, el. pašto adresai ir ID formatai laikosi fiksuotų taisyklių. Eilutė arba atitinka šabloną ir praeina kontrolinės sumos testą, arba ne. Nulis klaidingo pazėmėjimo galiojantių taisyklių rinkiniams.
Kalbos modeliai laisvam tekstui. Vardai ir pavardės, Įmonų etiketes ir vietos proze neturi griežtos struktūros. NLP juos randa, kai taisyklės negali. Pasitikėjimo balai ir konteksto patikrinimai sumažina klaidingo pazėmėjimo normą.
Kiekvieno tipo balų nustatymai smulkiai kontrolei. Teisinės komandos, kurios negali rizikuoti per dideliu redagavimu, nustato aukštus slenksčius netiksliems atitikimams. Tyrimo komandos, kurioms reikia aukšto iškvietimo, nustato žemesnius. Zųr. Dvejetainis AAS aptikimas ir pasitikėjimo vertinimas atitikčiai, kaip balo pakopos veikia praktikoje.
Rezultatas yra daug mažiau klaidų nei Presidio numatytiųjų nustatymai. Iškvietimas išlieka stiprus ten, kur taisyklės vienos praleistų per daug.
Teisinėms ir sveikatos priežiūros komandoms pagrindinis klausimas nėra tai, ar klaidingi pazėmėjimai egzistuoja. Jie visada egzistuoja NLP sistemose. Klausimas yra, ar Įrankis leidžia jums nustatyti, matuoti ir dokumentuoti kompromisą.