10 KiB
Introdução ao Ciclo de Vida da Ciência de Dados
 |
|---|
| Introdução ao Ciclo de Vida da Ciência de Dados - Sketchnote por @nitya |
Pré-Questionário
Neste ponto, você provavelmente já percebeu que a ciência de dados é um processo. Esse processo pode ser dividido em 5 etapas:
- Captura
- Processamento
- Análise
- Comunicação
- Manutenção
Esta lição foca em 3 partes do ciclo de vida: captura, processamento e manutenção.
Foto por Berkeley School of Information
Captura
A primeira etapa do ciclo de vida é muito importante, pois as próximas etapas dependem dela. É praticamente duas etapas combinadas em uma: adquirir os dados e definir o propósito e os problemas que precisam ser resolvidos.
Definir os objetivos do projeto exigirá um entendimento mais profundo do problema ou da questão. Primeiro, precisamos identificar e envolver aqueles que precisam de uma solução para seus problemas. Esses podem ser stakeholders de uma empresa ou patrocinadores do projeto, que podem ajudar a identificar quem ou o que se beneficiará do projeto, bem como o que e por que precisam disso. Um objetivo bem definido deve ser mensurável e quantificável para determinar um resultado aceitável.
Perguntas que um cientista de dados pode fazer:
- Esse problema já foi abordado antes? O que foi descoberto?
- O propósito e o objetivo são compreendidos por todos os envolvidos?
- Há ambiguidades e como reduzi-las?
- Quais são as restrições?
- Como será o resultado final?
- Quais recursos (tempo, pessoas, computação) estão disponíveis?
A próxima etapa é identificar, coletar e, finalmente, explorar os dados necessários para alcançar esses objetivos definidos. Nesta etapa de aquisição, os cientistas de dados também devem avaliar a quantidade e a qualidade dos dados. Isso exige alguma exploração dos dados para confirmar se o que foi adquirido ajudará a alcançar o resultado desejado.
Perguntas que um cientista de dados pode fazer sobre os dados:
- Quais dados já estão disponíveis para mim?
- Quem é o proprietário desses dados?
- Quais são as preocupações com privacidade?
- Tenho dados suficientes para resolver este problema?
- Os dados têm qualidade aceitável para este problema?
- Se eu descobrir informações adicionais por meio desses dados, devemos considerar alterar ou redefinir os objetivos?
Processamento
A etapa de processamento do ciclo de vida foca em descobrir padrões nos dados, bem como na modelagem. Algumas técnicas usadas nesta etapa exigem métodos estatísticos para identificar padrões. Normalmente, essa seria uma tarefa tediosa para um humano realizar com um grande conjunto de dados, então confiamos nos computadores para acelerar o processo. Esta etapa também é onde a ciência de dados e o aprendizado de máquina se cruzam. Como você aprendeu na primeira lição, aprendizado de máquina é o processo de construir modelos para entender os dados. Modelos são representações das relações entre variáveis nos dados que ajudam a prever resultados.
Técnicas comuns usadas nesta etapa são abordadas no currículo de ML para Iniciantes. Siga os links para saber mais sobre elas:
- Classificação: Organizar dados em categorias para uso mais eficiente.
- Agrupamento (Clustering): Agrupar dados em grupos semelhantes.
- Regressão: Determinar as relações entre variáveis para prever ou estimar valores.
Manutenção
No diagrama do ciclo de vida, você pode ter notado que a manutenção está entre captura e processamento. A manutenção é um processo contínuo de gerenciar, armazenar e proteger os dados ao longo do projeto e deve ser considerada durante toda a duração do projeto.
Armazenamento de Dados
As decisões sobre como e onde os dados são armazenados podem influenciar o custo de armazenamento, bem como o desempenho de acesso aos dados. Decisões como essas provavelmente não serão tomadas apenas pelo cientista de dados, mas ele pode precisar fazer escolhas sobre como trabalhar com os dados com base em como eles estão armazenados.
Aqui estão alguns aspectos dos sistemas modernos de armazenamento de dados que podem afetar essas escolhas:
No local (on premise) vs fora do local (off premise) vs nuvem pública ou privada
No local refere-se a hospedar e gerenciar os dados em seus próprios equipamentos, como possuir um servidor com discos rígidos que armazenam os dados, enquanto fora do local depende de equipamentos que você não possui, como um data center. A nuvem pública é uma escolha popular para armazenar dados, pois não exige conhecimento sobre como ou onde exatamente os dados estão armazenados, enquanto "pública" refere-se a uma infraestrutura unificada compartilhada por todos que usam a nuvem. Algumas organizações têm políticas de segurança rigorosas que exigem acesso completo ao equipamento onde os dados estão hospedados e, por isso, optam por uma nuvem privada que oferece seus próprios serviços de nuvem. Você aprenderá mais sobre dados na nuvem em lições futuras.
Dados frios vs dados quentes
Ao treinar seus modelos, você pode precisar de mais dados de treinamento. Se estiver satisfeito com seu modelo, mais dados chegarão para que ele cumpra seu propósito. Em qualquer caso, o custo de armazenar e acessar dados aumentará à medida que você acumular mais. Separar dados raramente usados, conhecidos como dados frios, de dados frequentemente acessados, conhecidos como dados quentes, pode ser uma opção mais barata de armazenamento por meio de hardware ou serviços de software. Se os dados frios precisarem ser acessados, pode levar um pouco mais de tempo para recuperá-los em comparação com os dados quentes.
Gerenciamento de Dados
Ao trabalhar com dados, você pode descobrir que alguns deles precisam ser limpos usando algumas das técnicas abordadas na lição sobre preparação de dados para construir modelos precisos. Quando novos dados chegam, eles precisarão das mesmas aplicações para manter a consistência na qualidade. Alguns projetos envolvem o uso de uma ferramenta automatizada para limpeza, agregação e compressão antes que os dados sejam movidos para seu local final. O Azure Data Factory é um exemplo de uma dessas ferramentas.
Segurança dos Dados
Um dos principais objetivos de proteger os dados é garantir que aqueles que trabalham com eles estejam no controle do que é coletado e em que contexto está sendo usado. Manter os dados seguros envolve limitar o acesso apenas àqueles que precisam deles, aderir às leis e regulamentações locais, bem como manter padrões éticos, como abordado na lição sobre ética.
Aqui estão algumas ações que uma equipe pode tomar com a segurança em mente:
- Confirmar que todos os dados estão criptografados
- Fornecer informações aos clientes sobre como seus dados são usados
- Remover o acesso aos dados de pessoas que saíram do projeto
- Permitir que apenas certos membros do projeto alterem os dados
🚀 Desafio
Existem muitas versões do Ciclo de Vida da Ciência de Dados, onde cada etapa pode ter nomes diferentes e um número distinto de estágios, mas conterá os mesmos processos mencionados nesta lição.
Explore o Ciclo de Vida do Processo de Ciência de Dados em Equipe e o Processo Padrão da Indústria para Mineração de Dados. Nomeie 3 semelhanças e diferenças entre os dois.
| Processo de Ciência de Dados em Equipe (TDSP) | Processo Padrão da Indústria para Mineração de Dados (CRISP-DM) |
|---|---|
 |
 |
| Imagem por Microsoft | Imagem por Data Science Process Alliance |
Pós-Questionário
Revisão e Autoestudo
Aplicar o Ciclo de Vida da Ciência de Dados envolve múltiplos papéis e tarefas, onde alguns podem se concentrar em partes específicas de cada etapa. O Processo de Ciência de Dados em Equipe fornece alguns recursos que explicam os tipos de papéis e tarefas que alguém pode ter em um projeto.
- Papéis e tarefas no Processo de Ciência de Dados em Equipe
- Executar tarefas de ciência de dados: exploração, modelagem e implantação
Tarefa
Avaliando um Conjunto de Dados
Aviso Legal:
Este documento foi traduzido utilizando o serviço de tradução por IA Co-op Translator. Embora nos esforcemos para garantir a precisão, esteja ciente de que traduções automatizadas podem conter erros ou imprecisões. O documento original em seu idioma nativo deve ser considerado a fonte autoritativa. Para informações críticas, recomenda-se a tradução profissional realizada por humanos. Não nos responsabilizamos por quaisquer mal-entendidos ou interpretações equivocadas decorrentes do uso desta tradução.