Python web scraping escrever em arquivo json

Criei um projeto pessoal com o intuito de aprender mais sobre typescript e nextjs no frontend, foi quando me deparei com o seguinte problema, eu teria que exibir aproximadamente 18 dados de 118 elementos da tabela periódica, coletar esses dados seria humanamente inviável, foi assim que tive a ideia de criar esse script.

Configurando o driver

As informações dos elementos serão extraídas do site PubChen, como os dados estão dentro de uma pop-up, utilizarei o selenium para abrir o navegador e extrair as informações, o navegador escolhido foi o chorme, para utilizá-lo é necessário instalar o chormedriver correspondente com a versão do seu navegador.

Instale a biblioteca webdriver e coloque o caminho de instalação do chormedriver;

pip install webdriver

from selenium import webdriver

driver = webdriver.Chrome(  executable_path='C:/Users/{user}/Downloads/chromedriver_win32/chromedriver.exe')

Configurando a leitura da página

Para abrir o navegador é necessário configurar a url e passa-lá como parâmetro para o driver.get, para extrair os dados da página será usado a biblioteca BeautifulSoup.

pip install beautifulsoup4

from bs4 import BeautifulSoup

url = "https://pubchem.ncbi.nlm.nih.gov/periodic-table/#popup=1"

driver.get(url)

content = driver.page_source
soup = BeautifulSoup(content)

Pegando os dados da página

Para extrair os dados da página é necessário inspecionar os elementos da página e pegar os identificadores únicos dos campos de onde texto será extraído.

Como essa parte era repetitiva criei 2 funções uma que extrai o texto da span e outra que extrai o texto da div, no caso da span a class muda de acordo com o elemento selecionado na pop-up então enviei o símbolo químico como parâmetro.

   def find_span(data_label, symbol):
        formatted_string = data_label.format(symbol)
        href = soup.find(
            "a", {"data-label": formated_string})

        if href:
            span = href.find("span", {"class": "capitalized"})
            if span:
                return span.text
            else:
                return "N/A"
        else:
            return "N/A"

   def find_div(class_name):
      div = soup.find(
        "div", {"class": class_name})

      if div:
        return div.text
      else:
        return "N/A" 

  symbol = find_div("f-3")
  name = find_div("f-125 f-lh-15")
  type_element = find_div("f-0875 capitalized f-lh-15")
  standard_state = find_span(
    'Content Link (List View): {}; Standard State Property Value', symbol)
  atomic_mass = find_span(
    "Content Link (List View): {}; Atomic Mass Property Value", symbol)
  electron_configuration = find_span(
    "Content Link (List View): {}; Electron Configuration Property Value", symbol)
  oxidation_states = find_span(
    "Content Link (List View): {}; Oxidation States Property Value", symbol)
  electronegativity = find_span(
    "Content Link (List View): {}; Electronegativity (Pauling Scale) Property Value", symbol)
  atomic_radius = find_span(
    "Content Link (List View): {}; Atomic Radius (van der Waals) Property Value", symbol)
  ionization_energy = find_span(
    "Content Link (List View): {}; Ionization Energy Property Value", symbol)
  electron_affinity = find_span(
    "Content Link (List View): {}; Electron Affinity Property Value", symbol)
  melting_point = find_span(
    "Content Link (List View): {}; Melting Point Property Value", symbol)
  boiling_point = find_span(
    "Content Link (List View): {}; Boiling Point Property Value", symbol)
  density = find_span(
    "Content Link (List View): {}; Density Property Value", symbol)
  year_discovered = find_span(
    "Content Link (List View): {}; Year Discovered Property Value", symbol)

Gravando dados no arquivo

Para gravar os dados no arquivo json é necessário montar o objeto que será enviado para o arquivo.

 data = {"id": id, "symbol": symbol,
            "name": name,
            "type": type_element,
            "standardState": standard_state,
            "atomicMass": atomic_mass,
            "electronConfiguration": electron_configuration,
            "oxidationStates":  oxidation_states,
            "electronegativity": electronegativity,
            "atomicRadius": atomic_radius,
            "ionizationEnergy": ionization_energy,
            "electronAffinity": electron_affinity,
            "meltingPoint": melting_point,
            "boilingPoint": boiling_point,
            "density": density,
            "yearDiscovered": year_discovered}

Depois não esqueça de fechar o navegador;

driver.close()

O último passo é instalar a biblioteca json para que ela salve os dados;

 pip install json

Já com a biblioteca instalada, agora é só passar o json formatado para ela;

with open('data.json', 'w') as f:
    json.dump(data, f)

Pegando os dados de todos os elementos

Agora que o script já está funcionando é preciso fazer ele chamar automaticamente todas às 118 pop-up, será utilizado o while para a repetição da chamada, a cada chamada o id da pop-up vai mudar e todos os dados extraídos serão salvos em um array, para no fim do loop serem salvos no arquivo json.

import json
from selenium import webdriver
from bs4 import BeautifulSoup

driver = webdriver.Chrome(
    executable_path='C:/Users/{user}/Downloads/chromedriver_win32/chromedriver.exe')

array_elements = []

id = 1

while (id <= 118):
    url = "https://pubchem.ncbi.nlm.nih.gov/periodic-table/#popup={}".format(
        id)

    driver.get(url)

    content = driver.page_source
    soup = BeautifulSoup(content)

    def find_span(data_label, symbol):
        formated_string = data_label.format(symbol)
        href = soup.find(
            "a", {"data-label": formated_string})

        if href:
            span = href.find("span", {"class": "capitalized"})
            if span:
                return span.text
            else:
                return "N/A"
        else:
            return "N/A"

    def find_div(class_name):
        div = soup.find(
            "div", {"class": class_name})

        if div:
            return div.text
        else:
            return "N/A"

    symbol = find_div("f-3")
    name = find_div("f-125 f-lh-15")
    type_element = find_div("f-0875 capitalized f-lh-15")
    standard_state = find_span(
        'Content Link (List View): {}; Standard State Property Value', symbol)
    atomic_mass = find_span(
        "Content Link (List View): {}; Atomic Mass Property Value", symbol)
    electron_configuration = find_span(
        "Content Link (List View): {}; Electron Configuration Property Value", symbol)
    oxidation_states = find_span(
        "Content Link (List View): {}; Oxidation States Property Value", symbol)
    electronegativity = find_span(
        "Content Link (List View): {}; Electronegativity (Pauling Scale) Property Value", symbol)
    atomic_radius = find_span(
        "Content Link (List View): {}; Atomic Radius (van der Waals) Property Value", symbol)
    ionization_energy = find_span(
        "Content Link (List View): {}; Ionization Energy Property Value", symbol)
    electron_affinity = find_span(
        "Content Link (List View): {}; Electron Affinity Property Value", symbol)
    melting_point = find_span(
        "Content Link (List View): {}; Melting Point Property Value", symbol)
    boiling_point = find_span(
        "Content Link (List View): {}; Boiling Point Property Value", symbol)
    density = find_span(
        "Content Link (List View): {}; Density Property Value", symbol)
    year_discovered = find_span(
        "Content Link (List View): {}; Year Discovered Property Value", symbol)

    data = {"id": id, "symbol": symbol,
            "name": name,
            "type": type_element,
            "standardState": standard_state,
            "atomicMass": atomic_mass,
            "electronConfiguration": electron_configuration,
            "oxidationStates":  oxidation_states,
            "electronegativity": electronegativity,
            "atomicRadius": atomic_radius,
            "ionizationEnergy": ionization_energy,
            "electronAffinity": electron_affinity,
            "meltingPoint": melting_point,
            "boilingPoint": boiling_point,
            "density": density,
            "yearDiscovered": year_discovered}

    array_elements.append(data)
    id = id + 1

driver.close()
with open('data.json', 'w') as f:
    json.dump(array_elements, f)

Rodando script

Comando

python script.py

Dados exportados

Resultado

Repositórios
Tabela períodica 👩🏿‍💻
Web Scraping 👩🏿‍💻