Til baka á BloggTæknilegt

Presidio: 3 vikna uppsetning gegn stjórnaðri PII

Microsoft Presidio hefur þúsundir GitHub-stjarna og hundruð opinna vandamála. Uppsetningarflækjustig, PySpark-samþætting og Python-háðunarfærsla.

June 15, 20266 mín lestur
Presidio setupPySpark integrationmanaged PresidioPython dependenciesPII setup complexity

Presidio: Kraftmikið verkfæri, löng uppsetning

Uppfært fyrir 2026.

Microsoft Presidio er traust verkfæri fyrir PII-greiningu og afauðkenningu. En það er stórt verkfræðiverkefni. Að keyra það í framleiðslu krefst raunverulegrar vinnu. Samfélagið er sammála um þetta.

GitHub-vandamál #237 er gott dæmi. Jafnvel hæfir verktaki lenda í umhverfisárekstrum. Þeir lenda í líkanahlæðingarvillum og API-villum. Dagar í villuleit geta liðið áður en fyrsta vinnsluferillinn keyrir.

Hvað samfélagsgögnin sýna

Presidio GitHub-geymslan hefur þúsundir stjarna. Þetta sýnir mikinn áhuga. En opna vandamálalistinn segir aðra sögu.

Umhverfisvandamál: Python-útgáfuárekstrar eru algengir. Svo eru spaCy-líkanaósamræmi og ONNX-keyrslutímavillur. Þessar villur ráðast á verktaka sem fylgja skjölunum nákvæmlega.

Líkanahlæðingarvillur: spaCy-líkön hlaðast niður fínt en glatast við hlæðingu í sumum uppsetningum. Gámar og lágminnisstillingar eru algeng vandamál. Að laga þær þarf djúpa þekkingu á spaCy-innviðum.

API-bilanir í framleiðslu: Greiningaðilinn virkar fínt í þróunarmáli. Hann brotnar undir framleiðsluálagi. Þráðaatriði og minnisþrýstingur frá NLP-líkanum eru aðalorsökurnar.

Samþætting-ofhleðsla: Ploomber-bloggið um þetta ramma nær yfir heildarmyndina. Það notar margar þjónustur — greiningsaðilann, nafnleysaðilann og valfrjálst myndritskoðunaraðila. Að tengja þá bætir vinnu við. Gagnaflutningur milli þjónusta bætir meira.

Microsoft Fabric-dæmið

Eigið skjöl Microsoft Fabric sýna bilið á milli "tiltækt" og "virkar."

Fabric-bloggfærsla um PySpark gefur þetta beint í skyn: uppsetningin "krefst stjórnunar á ytri háðleika og sérsniðnum rökum." Fabric-notendur völdu stjórnað skýjapall til að sleppa þessari tegund vinnu. En að bæta ytri verkfærum við færir flækjustigið aftur til baka.

Skref fyrir PySpark-uppsetningu eru:

  1. Setja upp presidio-analyzer og presidio-anonymizer í Fabric-glósur.
  2. Hlaða niður spaCy-líkön í Fabric-umhverfið.
  3. Skrifa PySpark UDF-umbúðir fyrir greiningaðilann og nafnleysaðilann.
  4. Meðhöndla spaCy-líkanafleytni til notkunar yfir Spark-vinnarar.
  5. Setja upp tungumálagreiningu fyrir fjöltungumálaleggsgagnasöfn.

Hvert skref hefur þekktar bilanarham. Teymi á þessari leið eyða oft einni til tveimur vikum áður en þau vinna úr fyrsta skjalinu.

Tvær leiðir: Eiginuppsetning vs. stjórnuð

Stjórnuð nálgunin snýr uppsetningarvandanum við.

Eiginuppsetningarleiðin:

  1. Setja upp Docker.
  2. Setja upp docker-compose.yml.
  3. Hlaða niður spaCy-líkön.
  4. Villuleita gámanetkerfi.
  5. Setja upp API-endapunkta.
  6. Prófa einingagreiningu.
  7. Laga falskt jákvæðar og neikvæðar.
  8. Byggja sérsniðnar þekkjur fyrir óstaðlaðar einingategundir.
  9. Bæta við endurskoðunarskráningu.
  10. Fínstilla fyrir framleiðsluálag.

Tími að fyrsta afauðkennda skjali: þrír til tuttugueinn dagur.

Stjórnuð þjónustubrautin:

  1. Búa til reikning.
  2. Hlaða upp skjali eða hringja í API.

Tími að fyrsta afauðkennda skjali: tólf mínútur.

Báðar leiðir nota sömu greiningarnálgunina. Stjórnuð leið keyrir á vélbúnaði sem einhver annar viðheldur.

Þegar eiginuppsetning er meira við hæfi

Stjórnuð þjónustan passar ekki í öll tilfelli.

Sérsniðin líkanaþjálfun: Sum tilfelli þurfa ný NER-líkön. Séreigin lyfjaheiti eða innri vörukóðar eru dæmi. Eiginuppsetning gefur þér þjálfunartækin.

Spark-innfædd vinnsla: Sumar leiðslur þurfa PII-greiningu inni í Spark-keyrslustigi. Ytri API-símtal bætir leynd sem brýtur þetta mynstur. Eiginuppsetning er eina passanlegur kosturinn hér.

Full stjórnun: Sumar öryggisstefnur loka á allar ytri API-símtöl í gagnaleiðslu. anonym.legal Skrivborðsforritið keyrir að fullu án nettengingar. Eiginuppsetning er fullkomlega einangraður kosturinn.

Fyrir flest tilfelli — skjalavinnsla, API-verkflæði og samræmiverkfæri — fjarlægir stjórnuð þjónustan innviðaverkefnið að fullu.

Að keyra báðar leiðir samtímis

Frítierinn gefur þér 200 einingar á mánuði. Það er nóg til að prófa raunveruleg skjöl. Ekkert greiðslukort. Engar skuldbindingar.

Hér er einföld hliðstæð nálgun.

Vika 1: Settu upp eiginuppsetningagreinandann í þróunarmáli. Sjá hversu flókin framleiðsluuppsetning verður.

Dagur 1, samhliða: Búðu til stjórnuðan þjónustureikining. Keyrðu sömu prófskjölin í gegnum stjórnuðu API. Berðu niðurstöðurnar saman.

Lykilspurningar:

  • Greinir stjórnuð þjónustan tegundirnar sem þú þarft? Hún nær 273 einingategundir. Opið uppsprettu smíðið nær yfir um 40 að sjálfgefnu.
  • Er nákvæmnin nógu góð?
  • Passar API-inn við mynstur þitt?
  • Passa áætlanirnar við magn og fjárhagsáætlun þína?

Ef já á allt: stjórnuð þjónustan fjarlægir innviðaverkefnið. Ef nei: bilin sem þú finnur eru raunverulegar ástæður til að vera með eiginuppsetning.

Sjá hvernig önnur teymi tóku þessa ákvörðun í dæmasögunum okkar. Athugaðu verndaratriði og friðhelgisupplýsingar á öryggis- og samræmissíðunni okkar. Finndu svör við algengum spurningum í FAQ okkar.

Í stuttu máli

Þrjár vikna uppsetning er ekki bilun í skjölunum eða rammanum. Hún sýnir hvað framleiðslugæðar NLP-innviðir þarfnast. Áskoranirnar eru raunverulegar. Þær taka tíma og kunnáttu til að leysa.

Fyrir mörg teymi er PII-afauðkenning samræmiskrafa. Það er ekki kjarnaverkfræðiverkefni. Stjórnuð þjónustan skilar sömu greiningu. Hún gerir það án innviðaverkefnisins. Tólf mínútur frá innskráningu að fyrsta afauðkennda skjali heldur matskostnaðinum mjög lágum.

Heimildir

Ertu tilbúinn að vernda gögnin þín?

Byrjaðu að anonymiza PII með 273 gerðum í 48 tungumálum.