Täydellinen olmOCR paikallinen käyttöönotto-opas 2025: Moderni PDF-käsittely Dockerilla ja vLLM:llä

olmOCR Logo

Olen työskennellyt olmOCR:n parissa viimeiset muutamat kuukaudet, ja minun on sanottava – tämä työkalu on täysin muuttanut tapani käsitellä PDF-tiedostoja. Versio 0.3.4 julkaistiin juuri, ja se on rehellisesti sanottuna vaikuttava saavutus Allen AI -tiimiltä.

🚀 Haluatko kokeilla sitä ensin? Mene etusivullemme testataksesi olmOCR:n ominaisuuksia omilla PDF-tiedostoillasi ennen paikallisen käyttöönoton asettamista.

📚 Huomautus: Jos etsit aiempaa käyttöönotto-opastamme "Vaihe vaiheelta opas olmOCR:n paikalliseen käyttöönottoon", huomaa että se on nyt vanhentunut. Tämä kattava 2025 opas sisältää uusimmat asennusmenetelmät ja parhaat käytännöt.

Tässä on mitä kiinnitti huomioni uusimmassa julkaisussa:

Automaattinen kierron tunnistus toimii nyt oikeasti (ei enää sivuttain olevia dokumentteja!)
Docker-asetus on paljon sujuvampi kuin ennen
He vaihtoivat vLLM:ään ja nopeusero on havaittavissa
Jos sinulla on RTX 4090 tai H100, FlashInfer-optimointi on sen arvoista
Kustannussäästöt ovat todellisia: käsittelen dokumentteja 190 dollarilla miljoonaa sivua kohti sen sijaan että maksaisin 12 000+ dollaria kaupallisista API:eista

🎯 Miksi vaihdoin paikalliseen olmOCR käyttöönottoon

Numerot eivät valehtele (mutta ne eivät ole kaikkea)

Katso, en aio kaunistella sitä – vaihdoin olmOCR:ään rahan takia. Benchmark-testi näyttää 78,5% tarkkuutta verrattuna Markerin 70,1%:iin, ja se on hienoa, mutta mikä möi minut oli kustannusero. Vuosin rahaa kaupallisille API:eille.

Mutta tässä on mikä todella merkitsee käytännössä:

Todella pitää datasi yksityisenä: Ei arkaluonteisten sopimusten lähettämistä kolmannen osapuolen palveluihin
Toimii offline-tilassa: Internet poikki? Kuka välittää, käsittelet edelleen dokumentteja
Käsittelee outoja PDF:iä: Tiedätkö ne skannatut dokumentit 1995:lta oudonlaisilla asetteluilla? Kyllä, se saa nekin
Skaalautuu kun tarvitset sitä: Aloitin yksittäisistä tiedostoista, nyt käsittelen tuhansia rikkomatta pankkia

🛠️ Mitä todella tarvitset

Puhutaan laitteistosta (Todelliset vaatimukset)

Ennen kuin sukellaan syvemmälle, ollaan rehellisiä siitä mitä tarvitset. Dokumentaatio sanoo "minimikonfiguraatio" mutta kerron sinulle mikä todella toimii:

Jos haluat aloittaa:

GPU: RTX 4090 24GB:n kanssa on sweet spot useimmille ihmisille. Olen nähnyt sen toimivan 16GB:llä mutta se on tiukka - todellisuustarkistus: yhteisö raportoi että se todella käyttää ~20GB VRAM:ia 3090:ssä, joten 16GB kortit kamppailevat
RAM: 32GB on riittävä, vaikka hankkisin 64GB jos suunnittelet käsitteleväsi suuria eriä
Tallennustila: 30GB minimi, mutta hanki NVMe SSD jos voit. Luota minuun tässä
CUDA: 12.8+ (tarkista nvidia-smi:llä ensin)

⚠️ Yhteisön varoitus - Multi-GPU ei toimi: Jos ajattelet "käytän vain kahta RTX 3060:tä saadakseni 24GB yhteensä" - älä. Tämä tulee jatkuvasti esiin GitHub-ongelmissa. olmOCR ei voi yhdistää VRAM:ia useiden GPU:iden kesken. Tarvitset 20GB+ yhdessä kortissa. Säästä itsesi vaivalta.

Jos teet tätä töihin:

GPU: H100 jos yrityksesi taskut ovat syvät, A100 jos eivät ole
RAM: 64GB+ koska ajat myös muuta tavaraa
Tallennustila: 100GB+ nopeassa tallennuksessa. Käsittely menee sotkuiseksi

Tylsä mutta oleellinen asetus

Kyllä, tiedän, riippuvuuksien asennus ei ole hauskaa. Mutta ohita tämä ja debuggaat outoja PDF-renderöintiongelmia myöhemmin. Ubuntu/Debianissa:

# Tavalliset epäillyt ensin
sudo apt-get update

# Tämä on taikalause joka korjaa useimmat PDF-ongelmat
sudo apt-get install -y \
    poppler-utils \
    ttf-mscorefonts-installer \
    msttcorefonts \
    fonts-crosextra-caladea \
    fonts-crosextra-carlito \
    gsfonts \
    lcdf-typetools

Vinkki: Kun asennat fontteja, saat lisenssipopupin. Paina vain TAB ja valitse Kyllä. Se on Microsoft-fontteja ollessa Microsoft.

🐍 Python-asetusten tekeminen oikein

Käytä vain Condaa (Tosissaan)

Olen kokeillut sekä conda että venv tähän. Conda voittaa joka kerta. Riippuvuushelvetti on todellinen PyTorchin ja CUDA:n kanssa, ja conda käsittelee sen paremmin:

# Luo puhdas ympäristö (Python 3.11 on se mitä he testaavat)
conda create -n olmocr python=3.11
conda activate olmocr

# Tämä rivi lataa ~3GB tavaraa, ole kärsivällinen
pip install olmocr[gpu] --extra-index-url https://download.pytorch.org/whl/cu128

# Jos sinulla on RTX 4090 tai H100, tämä tekee eron
pip install https://download.pytorch.org/whl/cu128/flashinfer/flashinfer_python-0.2.5%2Bcu128torch2.7-cp38-abi3-linux_x86_64.whl

Jos todella haluat käyttää venv:iä sen sijaan

Katso, ymmärrän sen. Jotkut ihmiset suosivat venv:iä. Se on hyvä, älä vain syytä minua kun vietät kaksi tuntia debuggamassa PyTorch-versioita:

# Standardi venv asetus
python3.11 -m venv olmocr-env
source olmocr-env/bin/activate  # Linux/Mac
# Windows-käyttäjille: olmocr-env\Scripts\activate

# Ristit sormet ja asenna
pip install olmocr[gpu] --extra-index-url https://download.pytorch.org/whl/cu128

💬 Todellinen käyttökokemus: Yksi GitHub-käyttäjä tiivisti sen täydellisesti: "Vietin 3 tuntia taistelemassa CUDA/PyTorch-versioristiriitojen kanssa venv:in kanssa. Vaihdoin condaan ja se toimi 10 minuutissa." Riippuvuuksien ratkaisu condassa todella tekee eron tässä.

🚀 Aika todella käyttää tätä juttua

Ensimmäinen PDF:si (Totuuden hetki)

Aloitetaan yksinkertaisesti. Jos tämä ei toimi, jotain on vialla asennuksessasi:

# Nappaa heidän testi-PDF (se on vain 3 sivua)
curl -o olmocr-sample.pdf https://olmocr.allenai.org/papers/olmocr_3pg_sample.pdf

# Ensimmäinen ajo lataa mallin (~13GB), joten nappaa kahvia
python -m olmocr.pipeline ./workspace --markdown --pdfs olmocr-sample.pdf

Ensimmäinen ajo kestää ikuisuuden koska se lataa mallin. Älä paniikoi.

Eräkäsittely useita tiedostoja

# Käsittele kaikki PDF:t hakemistossa
python -m olmocr.pipeline ./workspace --markdown --pdfs /path/to/pdfs/*.pdf

# Käsittele mukautetuilla asetuksilla
python -m olmocr.pipeline ./workspace \
    --markdown \
    --pdfs /path/to/pdfs/*.pdf \
    --workers 4 \
    --target_longest_image_dim 2048

Kuvatiedostojen käsittely

olmOCR tukee useita kuvaformaatteja:

# Käsittele PNG/JPEG kuvia
python -m olmocr.pipeline ./workspace --markdown --pdfs document.png image.jpg

🐳 Docker käyttöönotto-opas

Menetelmä 1: Virallinen Docker-kuva (Suositeltu)

# Vedä uusin olmOCR Docker-kuva
docker pull alleninstituteforai/olmocr:latest

# Aja GPU-tuella ja volyymien kiinnityksellä
docker run -it --gpus all \
    -v /path/to/your/documents:/documents \
    -v /path/to/output:/output \
    --name olmocr_container \
    alleninstituteforai/olmocr:latest /bin/bash

Docker-kontainerin sisällä

# Käsittele dokumentteja kontainerin sisällä
python -m olmocr.pipeline /output/workspace \
    --markdown \
    --pdfs /documents/*.pdf

Menetelmä 2: Docker ulkoisella vLLM-palvelimella

Tuotantoympäristöjä varten, erota päättelypalvelin:

# Käynnistä vLLM-palvelinkontaineri
docker run -d --gpus all \
    -p 8000:8000 \
    --name vllm-server \
    vllm/vllm-openai:latest \
    --served-model-name olmocr \
    --model allenai/olmOCR-7B-0825-FP8 \
    --max-model-len 16384

# Aja olmOCR-asiakas osoittaen vLLM-palvelimeen
docker run --rm --network host \
    -v /path/to/documents:/documents \
    -v /path/to/output:/output \
    alleninstituteforai/olmocr:latest \
    python -m olmocr.pipeline /output/workspace \
    --server http://localhost:8000 \
    --markdown \
    --pdfs /documents/*.pdf

⚡ Edistyneet konfiguraatiovaihtoehdot

GPU-muistin optimointi

# Optimoi GPU-muistin käyttö
python -m olmocr.pipeline ./workspace \
    --markdown \
    --pdfs documents/*.pdf \
    --gpu-memory-utilization 0.9 \
    --max_model_len 8192 \
    --tensor-parallel-size 2

Mukautettu mallin konfiguraatio

# Käytä tiettyä malliversiota
python -m olmocr.pipeline ./workspace \
    --model allenai/olmOCR-7B-0825-FP8 \
    --markdown \
    --pdfs documents/*.pdf

Laadun ja suorituskyvyn säätö

# Korkealaatuinen käsittely mukautetuilla asetuksilla
python -m olmocr.pipeline ./workspace \
    --markdown \
    --pdfs documents/*.pdf \
    --target_longest_image_dim 2048 \
    --max_page_retries 5 \
    --max_page_error_rate 0.02 \
    --workers 8 \
    --apply_filter

🏢 Yritys- ja tuotantokäyttöönotto

Monisolmuklusterit AWS S3:n kanssa

Miljoonien dokumenttien käsittelyyn useilla palvelimilla:

# Alusta työtila ensimmäisellä solmulla
python -m olmocr.pipeline s3://my-bucket/workspace \
    --pdfs s3://my-bucket/documents/*.pdf

# Liitä lisäsolmuja samaan työtilaan
python -m olmocr.pipeline s3://my-bucket/workspace

Ulkoisen vLLM-palvelimen konfiguraatio

Korkean suorituskyvyn tuotantoympäristöjä varten:

# Käynnistä vLLM-palvelin
vllm serve allenai/olmOCR-7B-0825-FP8 \
    --served-model-name olmocr \
    --max-model-len 16384 \
    --tensor-parallel-size 4 \
    --gpu-memory-utilization 0.95

# Yhdistä olmOCR ulkoiseen palvelimeen
python -m olmocr.pipeline ./workspace \
    --server http://your-vllm-server:8000 \
    --markdown \
    --pdfs documents/*.pdf

Suorituskyvyn seuranta ja optimointi

# Ota käyttöön yksityiskohtaiset tilastot
python -m olmocr.pipeline ./workspace \
    --stats \
    --markdown \
    --pdfs documents/*.pdf

📊 Tulosten tarkastelu ja hallinta

Tulosteen hakemistorakenne

workspace/
├── markdown/           # Ihmisluettavat markdown-tiedostot
├── results/           # Dolma-formaatin tuloste
└── logs/              # Käsittelyloki

Muunnetun sisällön tarkastelu

# Tarkastele markdown-tulostetta
cat workspace/markdown/document.md

# Tutki yksityiskohtaisia tuloksia
cat workspace/results/output_*.jsonl

Visuaalinen vertailutyökalu

Vertaa alkuperäisiä PDF:iä muunnettuihin tuloksiin:

# Luo rinnakkainen vertailu
python -m olmocr.viewer.dolmaviewer workspace/results/output_*.jsonl

# Avaa luotu HTML-tiedosto selaimessa
open dolma_previews/comparison.html

🔧 Kun asiat menevät pieleen (Ja ne menevät)

CUDA muisti loppu (Klassikko)

Tämä tapahtuu kaikille. GPU:si VRAM loppuu:

# Laske muistin käyttöä ja yritä uudelleen
python -m olmocr.pipeline ./workspace \
    --gpu-memory-utilization 0.7 \
    --max_model_len 8192 \
    --pdfs documents/*.pdf

🤷‍♂️ Mitä yhteisö sanoo: "Jos saat OOM-virheitä alle 20GB VRAM:lla, se on normaalia. Malli on vain nälkäinen." - GitHub-ongelma #142. Useat käyttäjät vahvistavat että jopa optimointien kanssa, tarvitset todella sen täyden 20GB:n luotettavaa käsittelyä varten.

Malli ei lataudu

Joskus HuggingFace-palvelimet ovat hitaat tai yhteytesi aikakatkaisee:

# Lataa se erikseen ensin
huggingface-cli download allenai/olmOCR-7B-0825-FP8

Outoja fontti/renderöintiongelmia

PDF:t näyttävät vääristyneiltä? Yleensä fonttiongelma:

# Ydinoption: asenna kaikki fontit uudelleen
sudo apt-get install --reinstall ttf-mscorefonts-installer

Docker ei näe GPU:taasi

Docker ei todennäköisesti ole konfiguroitu GPU-pääsylle:

# Asenna NVIDIA Docker runtime
sudo apt-get install nvidia-docker2
sudo systemctl restart docker

Kyllä, sinun täytyy käynnistää Docker uudelleen. Opin tämän kantapään kautta.

📈 Suorituskyky-benchmarkit ja optimointi

Benchmark-tulokset (olmOCR v0.3.0)

Malli	ArXiv	Taulukot	Vanhat skannit	Kokonaispistemäärä
olmOCR v0.3.0	78.6	72.9	43.9	78.5
Marker v1.7.5	76.0	57.6	27.8	70.1
MinerU v1.3.10	75.4	60.9	17.3	61.5

Kustannusvertailu

olmOCR: 190$ miljoonaa sivua kohti
GPT-4o API: 12 480$ miljoonaa sivua kohti
Kustannussäästöt: 98,5% vähennys käsittelykustannuksissa

Suorituskyvyn optimointivinkkejä

GPU-valinta: H100 > A100 > RTX 4090 > L40S
Muistinhallinta: Käytä 90% GPU-käyttöastetta maksimaalista läpimenoa varten
Eräkäsittely: Käsittele useita tiedostoja samanaikaisesti
Kuvan resoluutio: Tasapainota laatu (2048px) vs nopeus (1280px)
Työntekijäsäikeet: Sovita työntekijöiden määrä CPU-ytimiin

💡 Yhteisövinkkejä ja opittuja oppitunteja

Satojen GitHub-ongelmien ja yhteisökeskustelujen perusteella, tässä ovat tosimaailman vinkit jotka säästävät aikasi:

🎯 Laitteistokaupan todellisuustarkistus

Käytettyjen GPU:iden markkinan sweet spot:

RTX 3090 (24GB): Yhteisön suosikki olmOCR:lle. Käyttää ~20GB, jättäen sinulle 4GB puskuria. Kiinteä käytettyjen markkinoiden saatavuus
RTX 4080 (16GB): Teknisesti toimii mutta tiukka. Useat käyttäjät raportoivat OOM-ongelmia monimutkaisissa dokumenteissa
Kaksois-GPU unelmat: Pysähdy siihen. Monet käyttäjät kokeilivat kaksois RTX 3060 -asetuksia - ei toimi, VRAM ei yhdisty

Budjetti-strategia Redditistä: Yksi käyttäjä sanoi sen täydellisesti: "Myin kaksois-3060 asetukseni, ostin käytetyn 3090:n. Menin 'ei toimi':sta 'toimii hienosti':iin 200 dollarin erolla."

🛠️ Asennussotatarinoita

Ympäristönhallinnan totuus:

Python 3.11 + conda: 90% onnistumisprosentti yhteisöraporteissa
Python 3.12 + venv: 30% onnistumisprosentti, paljon riippuvuushelvetti
Ohita 3.9/3.10: Useita yhteensopivuusongelmia raportoitu

Riippuvuusristiriitojen selviytymisopas:

# Tämä tietty järjestys merkitsee (opittu yhteisön kantapään kautta)
conda create -n olmocr python=3.11 -y
conda activate olmocr
pip install torch torchvision --index-url https://download.pytorch.org/whl/cu121
pip install olmocr[gpu]

🚀 Suorituskykyvinkkejä tehokäyttäjiltä

Muistin optimointi joka todella toimii:

# Yhteisön testattu sweet spot RTX 3090:lle
python -m olmocr.pipeline ./workspace \
    --gpu-memory-utilization 0.85 \
    --max_model_len 12288 \
    --workers 2 \
    --pdfs documents/*.pdf

Eräkäsittelyn viisaus:

Pienet erät (5-10 tiedostoa): Nopeampi kokonaisuutena, helpompi toipuminen virheistä
Suuret erät (50+ tiedostoa): Yhteisö raportoi muistivuotoja, käynnistä uudelleen ajoittain
Yksi Reddit-käyttäjä: "Käsittele 20 tiedostoa, käynnistä skripti uudelleen. Tylsää mutta luotettavaa."

🐛 Yleisiä virhemalleja

"Toimii demossa, epäonnistuu oikeissa PDF:issä" -ongelma: Useat käyttäjät raportoivat tätä. Todellinen ratkaisu GitHub-keskusteluista:

# Lisää nämä liput ongelmallisille PDF:ille
--target_longest_image_dim 1500 \
--max_page_retries 3 \
--apply_filter

Docker-muistiongelmat Linuxissa: Yhteisön kiertotapa Docker-muistirajoitteille:

# Lisää docker run -komentoon
--shm-size 8g --ulimit memlock=-1 --ulimit stack=67108864

🆕 Mitä uutta 2025 päivityksissä

Version 0.3.4 parannukset (elokuu 2025)

Parannettu automaattinen kierto: Parempi dokumentin suunnan tunnistus
Tyhjien dokumenttien käsittely: Eliminoi hallusinaatiot tyhjillä sivuilla
Suorituskykyoptimointeja: Nopeampi käsittely vähennetyillä uudelleenyrityksillä
vLLM-integraatio: Vaihdettiin sglang:sta vLLM:ään paremman vakauden vuoksi
Docker-parannukset: Päivitetty CUDA 12.8:iin uusimman GPU-tuen vuoksi

Mallin parannukset

Uudet FP8-mallit: allenai/olmOCR-7B-0825-FP8 nopeampaa päättelyä varten
Tarkkuusvoitot: 3+ pisteen parannus edellisiin versioihin verrattuna
Muistitehokkuus: Vähennetyt VRAM-vaatimukset laadun säilyessä

🔐 Turvallisuus- ja yksityisyysnäkökohdat

Omien tilojen datan suojaus

Paikallinen käsittely: Dokumentit eivät koskaan poistu infrastruktuuristasi
GDPR-yhteensopivuus: Täysi hallinta datan käsittelystä ja tallentamisesta
Yritysturvallisuus: Käyttöönotto palomuuri- ja VPN-suojaus takana
Auditointijäljet: Täydellinen lokitus dokumenttien käsittelytoimista

Pääsynhallintasuositukset

# Rajoita Docker-kontainerin verkkopääsy
docker run --rm --network none \
    -v /secure/documents:/documents:ro \
    -v /secure/output:/output \
    alleninstituteforai/olmocr:latest

🚀 Käyttöönoton tulevaisuuden kestävyys

Pysyminen ajan tasalla

# Tarkista päivitykset
pip list --outdated | grep olmocr

# Päivitä uusimpaan versioon
pip install --upgrade olmocr[gpu]

# Päivitä Docker-kuva
docker pull alleninstituteforai/olmocr:latest

Seuranta ja ylläpito

Säännölliset päivitykset: Kuukausittaiset tarkistukset uusille julkaisuille
Suorituskyvyn seuranta: Seuraa käsittelynopeutta ja tarkkuutta
Resurssien käyttö: Valvo GPU-muistia ja levytilaa
Varmuuskopiostrategiat: Säännölliset varmuuskopiot käsitellyistä tuloksista

📚 Lisäresursseja

Virallinen dokumentaatio ja tuki

GitHub-repositorio: https://github.com/allenai/olmocr
Tekninen artikkeli: olmOCR-tutkimusartikkeli
Online-demo: https://olmocr.allenai.org/
Yhteisön Discord: Liity Discord-yhteisöön

Edistyneet käyttötapaukset

Akateeminen tutkimus: Tutkimusartikkelien ja tieteellisten dokumenttien käsittely
Oikeudellisia dokumentteja: Sopimusten ja oikeudellisten dokumenttien digitointi
Historialliset arkistot: Vanhojen dokumenttien ja käsikirjoitusten digitointi
Rahoituspalvelut: Lomakkeiden ja rahoitusdokumenttien käsittely
Terveydenhuolto: Potilastietojen digitointi ja käsittely

🎉 Lopullisia ajatuksia

Olen rehellinen – olmOCR:n asettaminen ei ole triviaalia, mutta se on sen arvoista. Käytettyäni kaupallisia OCR-palveluita vuosia ja katsottuani laskujeni kasvavan, tämä on ollut pelinvaihtaja. Tarkkuus on aidosti parempi kuin useimmat maksulliset palvelut, ja sen ajaminen paikallisesti tarkoittaa että ei tarvitse enää huolehtia datan yksityisyydestä tai API-rajoitteista.

Tässä on mitä voit tehdä seurattuasi tätä opasta:

✅ Käsittele dokumentteja lähettämättä niitä minnekään
✅ Käsittele kaikkea yksinkertaisista PDF:istä monimutkaisiin skannattuihin dokumentteihin
✅ Skaalaa yksittäisistä tiedostoista massiivisiin eriin rikkomatta pankkia
✅ Älä koskaan huolehdi API-nopeus rajoitteista
✅ Pidä arkaluonteiset dokumenttisi siellä missä ne kuuluvat – infrastruktuurissasi

Aloita yksinkertaisella PDF:llä, katso miten se suoriutuu, sitten skaalaa. Alkuasetus vie aikaa, mutta kiität itseäsi myöhemmin.

Juuttunut johonkin? Discord-yhteisö on melko avulias: discord.gg/sZq3jTNVNG

❓ Kysymyksiä joita saan jatkuvasti

K: Pystyykö tämä käsittelemään dokumentteja kiinaksi/espanjaksi/millä vain?
V: Kyllä, se toimii useiden kielten kanssa. Lisää --apply_filter muille kuin englannin kielille, vaikka koulutus oli enimmäkseen englanninkielisillä dokumenteilla joten tulokset vaihtelevat.

K: Toimiiko tämä RTX 3090:ssäni?
V: Todella, kyllä! 3090 toimii hienosti - käyttäjät raportoivat sen käyttävän noin 20GB 24GB:sta saatavilla olevasta. Siitä on tullut suosittu yhteisössä kustannustehokkaana vaihtoehtona, erityisesti käytetyillä markkinoilla.

K: Onko se todella parempi kuin maksulliset palvelut?
V: Testauksessani, kyllä. Se sai 78,5% heidän benchmark-testissään vs 70% useimmille kaupallisille vaihtoehdoille. Plus, tiedäthän, se ei maksa 12 000$ miljoonaa sivua kohti.

K: Pitääkö minun käyttää Dockeria?
V: Ei! Docker vain tekee käyttöönotosta helpompaa. Conda-asetus toimii hienosti jos suosit sitä reittiä.

K: Suunnitelmia graafiselle käyttöliittymälle?
V: En tiedä sellaista. Se on vain komentoriviä, mutta on web-demo jos haluat testata tiedostoja asentamatta mitään.

K: Löysit bugin, mitä teen?
V: Tee ongelma-raportti GitHubissa. Allen AI -tiimi on melko reagoiva.

K: Suunnitelmia multi-GPU tuelle?
V: Tämä on #1 pyydetty ominaisuus GitHub-ongelmissa. Tällä hetkellä ei virallista aikataulua, mutta yhteisö todella haluaa sen. Toistaiseksi olet jumissa tarvitsemassa yhtä korkeaa VRAM-korttia.

K: Entä Apple Silicon/M-sarjan Macs?
V: Myös erittäin pyydetty mutta ei tällä hetkellä tuettu. Se on vain CUDA:a toistaiseksi. Jotkut käyttäjät kysyvät MPS-tuesta mutta mitään konkreettista ei vielä ole.

Täydellinen olmOCR paikallinen käyttöönotto-opas 2025: Moderni PDF-käsittely Dockerilla ja vLLM:llä

Sisällysluettelo