Saltar para o conteúdo
Comece grátis

Blog

Perspetivas e Engenharia

Análises aprofundadas sobre a infraestrutura de dados da Web, técnicas de extração e o futuro dos dados estruturados em grande escala.

Artigos mais recentes

156 artigos

HTTP Headers Web Scraping: Deixar de ser bloqueado
A ciência da extração de dados da Web

HTTP Headers Web Scraping: Deixar de ser bloqueado

TL;DR: Os cabeçalhos HTTP são normalmente a razão pela qual o seu scraper recebe um 403 enquanto o seu browser carrega o mesmo URL sem problemas. Este guia mostra quais cabeçalhos os sistemas anti-bot realmente inspecionam, como capturar o conjunto de cabeçalhos de um navegador real do DevTools, como enviá-los e girá-los corretamente em Python e Node.js, e quando o ajuste manual deixa de valer a pena e uma API de raspagem gerenciada é a melhor opção.

Raluca Penciuc14 min read
Ler artigo
Analisadores HTML e XML em Ruby: Uma comparação com base na carga de trabalho
Guias

Analisadores HTML e XML em Ruby: Uma comparação com base na carga de trabalho

TL;DR: Resumo: Escolha os analisadores HTML e XML em Ruby de acordo com a carga de trabalho, e não com base num ranking genérico. Comece com o Nokogiri para a análise geral de árvores HTML e XML, considere o Ox ou o LibXML Ruby para tarefas específicas de XML e recorra ao Selenium apenas quando for necessário que um navegador real exiba ou interaja com a página.

Raluca Penciuc14 min read
Ler artigo
Erros de estado do proxy: diagnosticar o ponto de falha da solicitação
Guias

Erros de estado do proxy: diagnosticar o ponto de falha da solicitação

TL;DR: Identifique o salto com falha antes de voltar a tentar um pedido de proxy. Utilize códigos de estado, resultados do comando CONNECT e registos de diagnóstico seguros para distinguir as falhas do proxy das respostas do destino.

Mihai Maxim16 min read
Ler artigo
Como extrair dados de uma tabela HTML em JavaScript e exportar um ficheiro CSV limpo
Guias

Como extrair dados de uma tabela HTML em JavaScript e exportar um ficheiro CSV limpo

TL;DR: Resumo: Primeiro, determine se as linhas da tabela existem na resposta HTTP, se são obtidas através de um pedido de dados ou se requerem que um navegador as apresente. Em seguida, utilize o script estático do Axios e do Cheerio ou a abordagem específica do Puppeteer apresentada abaixo para extrair dados de uma tabela HTML em JavaScript, validar registos com base nos cabeçalhos, eliminar páginas duplicadas e gravar ficheiros CSV de forma segura. Uma tabela HTML organiza a informação em linhas e colunas, normalmente com os elementos <table>, <tr>, <th> e <td>. Extrair uma tabela HTML em JavaScript significa recuperar ou renderizar essa marcação, converter cada linha de dados num objeto JavaScript, validar o resultado e serializá-lo para um formato como o CSV.

Mihai Maxim14 min read
Ler artigo
Análise de HTML em Java com Jsoup
Guias

Análise de HTML em Java com Jsoup

TL;DR: Jsoup é a biblioteca padrão para análise de HTML em Java. Este guia percorre todo o ciclo de vida (configuração do Maven, carregamento de um documento, seletores CSS, travessia do DOM, extração, modificação e serialização), além de um projeto de raspagem executável, tratamento de erros, paginação e os limites que o levam a um navegador sem cabeça ou a uma API de raspagem.

Mihai Maxim13 min read
Ler artigo
Python Extrair texto de HTML
Guias

Python Extrair texto de HTML

TL;DR: Para extrair texto de HTML em Python, analise a marcação com um analisador real (BeautifulSoup, lxml.html ou html-text), remova scripts, estilos e cromo do site e, em seguida, normalize o espaço em branco e o Unicode antes de salvar. Este guia compara as principais bibliotecas, corrige as armadilhas comuns de limpeza e termina com um rastreador executável que escreve JSONL e arquivos .txt por página.

Mihai Maxim25 min read
Ler artigo

Comece a construir

Pronto para expandir a sua recolha de dados?

Junte-se a mais de 2.000 empresas que utilizam a WebScrapingAPI para extrair dados da Web à escala empresarial, sem quaisquer custos de infraestrutura.