ब्लॉग पर वापस जाएँ
Tehokas PDF-tekstin poiminta Vision Language -mallien avulla —— Miksi olmOCR muuttaa pelin

Tehokas PDF-tekstin poiminta Vision Language -mallien avulla —— Miksi olmOCR muuttaa pelin

Author

OLMOCR Team

3. maaliskuuta 2025

olmOCR Pipeline Kuvateksti: olmOCR:n päästä päähän -putki muuntaa sotkuiset PDF-tiedostot jäsennellyksi Markdown-tekstiksi 1/32 GPT-4o:n kustannuksella.

PDF-tiedostojen piilotettu haaste: Miksi pelkkä teksti on tärkeää

Kielimallit viihtyvät puhtaalla tekstillä – mutta PDF-tiedostot ovat äärimmäinen vihollinen. Ne on suunniteltu tulostamista varten, ei jäsentämistä, ne sekoittavat tekstin sijainteja, hautaavat taulukoita binäärikoodiin ja muuttavat yhtälöt visuaalisiksi arvoituksiksi. Perinteiset OCR-työkalut? Ne jättävät usein huomiotta muotoilun, kamppailevat monisarakkeisten asettelujen kanssa tai veloittavat omaisuuden.

Esittelyssä olmOCR: avoimen lähdekoodin työkalupakki, joka yhdistää vision language -mallit (VLM) ja älykkään suunnittelun PDF-koodin murtamiseksi. Puretaanpa, miksi kehittäjät ja tutkijat ovat innoissaan siitä.

5 syytä, miksi olmOCR loistaa muita työkaluja paremmin

  1. Kustannustehokkuus, jota on vaikea sivuuttaa Cost Comparison Chart Käsittele 1 miljoona sivua 190 dollarilla – se on 32x halvempaa kuin GPT-4o:n erä-API:t. Miten? Hienosäätämällä 250 000 monipuolisella sivulla (akateemiset artikkelit, oikeudelliset asiakirjat, jopa käsin kirjoitetut kirjeet) ja optimoimalla päättelyn SGLang/vLLM:llä.

  2. Markdown-taikaa Ei enää regex-painajaisia. olmOCR tuottaa puhdasta Markdownia:

    • Säilyttää yhtälöt (E=mc²)
    • Taulukot, jotka pysyvät taulukoina
    • Oikea lukujärjestys monimutkaisille asetteluille

  3. Akut mukana -putki

    python -m olmocr.pipeline ./workspace --pdfs your_file.pdf

    Skaalaa saumattomasti 1:stä yli 100 GPU:hun. Sisäänrakennettu virheiden käsittely ratkaisee yleisiä PDF-ongelmia, kuten metatietojen vioittumisen.

  4. Avoimen lähdekoodin, ei mustia laatikoita Painot, koulutusdata (kyllä, kaikki 250 000 sivua!) ja koodi ovat julkisia. Rakennettu Qwen2-VL-7B-Instruct - ei omistusoikeudellisia riippuvuuksia.

  5. Ihmisen todistettu paremmuus ELO Rankings Sokeissa testeissä Markeria, GOT-OCR 2.0:aa ja MinerU:ta vastaan:

    • Voittaa 61 % vertailuista
    • Saavuttaa ELO >1800 (kultainen standardi)

Konepellin alla: Miten rakensimme olmOCR:n

Asiakirjan ankkurointi: Salainen ainesosa

Document Anchoring Diagram Kuvateksti: Teksti + kuvan konteksti = tarkka poiminta.

Käytämme PDF-tiedostojen omaa tekstiä/metatietoja "ankkuroimaan" VLM:t koulutuksen aikana:

  1. Poimi tekstilohkot ja kuvat
  2. Yhdistä ne mallikehotteisiin
  3. Anna GPT-4o:n luoda "kultaisen standardin" tunnisteet

Tulos? Malli, joka ymmärtää sekä mitä teksti sanoo että missä se kuuluu.

Koulutus todelliseen maailmaan

  • Tietojoukko: 60 % akateemisia artikkeleita, 12 % esitteitä, 11 % oikeudellisia asiakirjoja
  • Laitteisto: Optimoitu NVIDIA GPU:ille, 90 % pienempi energiankulutus kuin vastaavissa asetuksissa
  • Hienosäätö: Qwen2-VL-7B-Instruct mukautettu asiakirjan "keskusteluille"

Kokeile olmOCR:ää 3 minuutissa

  1. Asenna 
    git clone https://github.com/allenai/olmocr && cd olmocr
pip install -e .
  2. Suorita näyte-PDF:llä 
    python -m olmocr.pipeline ./demo_output --pdfs tests/gnarly_pdfs/horribleocr.pdf
  3. Tarkista Markdown Avaa ./demo_output/horribleocr.md – näe taulukot, yhtälöt ja tekstin virtaus ehjinä!

Lopullinen johtopäätös

olmOCR ei ole vain yksi työkalu lisää – se on paradigman muutos. Yhdistämällä VLM:t läpinäkyvään suunnitteluun se tekee korkealaatuisen tekstinpoiminnan kaikkien saataville. Olitpa sitten rakentamassa tutkimusaineistoa tai automatisoimassa laskujen käsittelyä, tämä työkalupakki kuuluu pinossasi.

Seuraavat vaiheet

Muutetaan PDF-tuska pelkäksi tekstiksi! 🚀