Zašto ChatGPT možda ne vidi tvoj web
Puno modernih webova, pogotovo onih složenih u AI alatima za izradu stranica, radi kao React aplikacija. Kad ih netko otvori, server pošalje gotovo praznu stranicu, a sav tekst se pojavi tek kad se u pregledniku pokrene JavaScript.
Tvoj preglednik to odradi u sekundi pa ti sve izgleda normalno. Google također pokreće JavaScript, pa takve stranice uglavnom vidi. Ali roboti koji čitaju web za ChatGPT i Claude to ne rade: Vercel je pratio preko 500 milijuna posjeta ChatGPT-ovog robota (GPTBot) i nije našao nijedan slučaj da je pokrenuo JavaScript. Isto vrijedi i za Claudeovog robota (ClaudeBot).
Rezultat: ti vidiš lijep web, a AI vidi praznu stranicu. Kad netko pita ChatGPT za preporuku u tvojoj branši, tvoj web ne može ništa reći o tebi.
Provjera u 10 sekundi
- Otvori svoju stranicu u Chromeu.
- Pritisni Ctrl+U (Windows) ili Cmd+Option+U (Mac). Otvorit će se izvorni kod stranice, točno ono što server šalje robotima.
- Pritisni Ctrl+F (ili Cmd+F na Macu) i potraži jednu rečenicu s naslovne stranice, na primjer svoj glavni naslov.
- Ako rečenicu pronađeš, tekst je u HTML-u i AI ga može pročitati.
- Ako je ne pronađeš, a u kodu vidiš uglavnom script oznake i praznu oznaku poput ove ispod, AI vjerojatno vidi praznu stranicu.
<div id="root"></div>
Druga provjera: blokira li tvoj web AI robote
Čak i kad je tekst u HTML-u, robot ga ne može pročitati ako mu je pristup zabranjen. Otvori adresu tvojweb.hr/robots.txt (umjesto tvojweb.hr upiši svoju domenu) i pogledaj piše li negdje ovo:
User-agent: GPTBot Disallow: /
Ako piše, ChatGPT-ov robot ne smije čitati tvoj web. Pazi: neki hostinzi i Cloudflare mogu blokirati AI robote i na razini zaštite, a to se u robots.txt ne vidi. Ako nisi siguran, pitaj onoga tko ti održava web da provjeri postavke za AI robote.
Kako to popraviti
Rješenje je da tekst bude u HTML-u od prve sekunde, prije bilo kakvog JavaScripta. To se zove prerendering ili statičko generiranje stranica (SSG), a postoji i renderiranje na serveru (SSR).
- Ako ti je web React aplikacija, može se dodati korak koji svaku stranicu unaprijed pretvori u gotov HTML, bez mijenjanja izgleda.
- Ako radiš novi web, odaberi alat koji to radi sam od sebe, na primjer Astro ili Next.js.
- Ako si web složio u AI alatu za izradu stranica, provjeri nudi li prerendering ili renderiranje na serveru. Ako ne nudi, web se može prebaciti na takav alat.
- Nakon popravka ponovi provjeru s Ctrl+U. Tvoja rečenica sad mora biti u kodu.
Treba ti pomoć?
Ja svoje webove radim tako da je sav tekst u HTML-u od prve sekunde, pa ih i Google i AI alati mogu pročitati. Ako želiš da pogledam tvoj web, javi mi se u poruci.