Skip to content

Latest commit

 

History

7 Commits

Folders and files

NameName
Last commit message
Last commit date
 
 
 
 
 
 
 
 
 
 
 
 

Repository files navigation

Explorando ETL Com IA Generativa

Implementação prática de um pipeline de dados ETL (Extract, Transform, Load) inteligente. O projeto extrai dados de clientes, utiliza a API de IA Generativa da OpenAI para criar mensagens de marketing ultra-personalizadas com base no perfil de cada usuário e atualiza a base de dados final.

🚀 Tecnologias Utilizadas

Python 3.13+ | Requests | OpenAI | Pandas | Dotenv


🎯 Objetivo

Desenvolver um fluxo ETL(Extração, Transformação e Carregamento) e utiliza IA Generativa para criar mensagens personalizadas para cada usuário.

🎯 O Fluxo ETL

graph TD
    A[Extração: CSV/JSON] --> B[Transformação: Prompt OpenAI]
    B --> C[Carregamento: Salvar de volta no CSV]
Loading

Extração (Extract)

O pipeline lê os dados brutos a partir de um arquivo USERS.csv ou mock_users.json, mapeando informações cruciais como:

  • ID do Usuário
  • Nome
  • Perfil de Investidor (ex: Conservador, Moderado, Arrojado)
  • Saldo em Conta

Transformação (Transform)

Para cada usuário extraído, o sistema monta um prompt dinâmico e faz uma requisição à API do ChatGPT (OpenAI). A IA gera um conselho de investimento personalizado e amigável:

"Olá [Nome], vimos que você tem um perfil [Perfil]. Que tal conhecer nossas opções de..."

Carregamento (Load)

Os dados transformados (mensagens personalizadas) são injetados de volta no arquivo USERS.csv, gerando uma nova coluna contendo o retorno enriquecido pela IA.

📚 Estrutura do Projeto

etl-ia-generativa-python/  
├── src/  
│   └── main.py           # Script principal que executa o fluxo ETL
├── data/
│   ├── USERS.csv         # Base de dados de usuários final (atualizada pelo pipeline)
│   └── mock_users.json   # Dados fictícios para testes locais
├── .env.example          # Exemplo de configuração das variáveis de ambiente
├── .gitignore            # Proteção para não subir a API Key e venv
├── requirements.txt      # Dependências do projeto
└── README.md             # Documentação do projeto

🔧 Como Executar

Pré-requisitos

Antes de começar, você precisará ter o Python 3.13+ instalado e uma API Key da OpenAI.

  1. Clonar o repositório
git clone https://github.com/seu-usuario/etl-genai-python.git
  1. Configurar Variáveis de Ambiente Crie um arquivo .env na raiz do projeto baseado no .env.example e adicione sua chave de API da OpenAI:
OPENAI_API_KEY=sua_chave_aqui_projeto
  1. Configurar o Ambiente Virtual (Virtualenv)
# Criar o ambiente virtual
python -m venv venv
 
# Ativar o ambiente

# No Linux/macOS:
source venv/bin/activate

# No Windows (PowerShell):
venv\Scripts\Activate.ps1
# No Windows (bash):
venv\Scripts\activate
  1. Instalar as Dependências
pip install -r requirements.txt
  1. Executar o Pipeline
python src/main.py

⚠️ Aviso

Todos os dados usando neste projeto são fictícios e utilizados apenas para fins educacionais.

About

Implementação de um pipeline ETL inteligente em Python utilizando IA Generativa para transformar e enriquecer dados de forma automatizada.

Topics

Resources

Stars

0 stars

Watchers

0 watching

Forks

Releases

Packages

Contributors

Languages