Introdução ao Ciclo de Vida da Ciência de Dados


Introdução ao Ciclo de Vida da Ciência de Dados - Sketchnote por @nitya

Questionário Pré-Aula

Neste ponto, provavelmente já percebeu que a ciência de dados é um processo. Este processo pode ser dividido em 5 etapas:

Captura
Processamento
Análise
Comunicação
Manutenção

Esta lição foca-se em 3 partes do ciclo de vida: captura, processamento e manutenção.

Foto por Berkeley School of Information

Captura

A primeira etapa do ciclo de vida é muito importante, pois as etapas seguintes dependem dela. É, na prática, duas etapas combinadas numa só: adquirir os dados e definir o propósito e os problemas que precisam ser resolvidos.
Definir os objetivos do projeto exigirá um entendimento mais profundo do problema ou da questão. Primeiro, é necessário identificar e envolver aqueles que precisam de uma solução para o seu problema. Estes podem ser partes interessadas de uma empresa ou patrocinadores do projeto, que podem ajudar a identificar quem ou o que beneficiará deste projeto, bem como o que precisam e porquê. Um objetivo bem definido deve ser mensurável e quantificável para determinar um resultado aceitável.

Perguntas que um cientista de dados pode fazer:

Este problema já foi abordado antes? O que foi descoberto?
O propósito e o objetivo são compreendidos por todos os envolvidos?
Existe alguma ambiguidade e como reduzi-la?
Quais são as restrições?
Como será o resultado final?
Quantos recursos (tempo, pessoas, computação) estão disponíveis?

A seguir, é necessário identificar, coletar e, finalmente, explorar os dados necessários para alcançar os objetivos definidos. Nesta etapa de aquisição, os cientistas de dados também devem avaliar a quantidade e a qualidade dos dados. Isso exige alguma exploração dos dados para confirmar que o que foi adquirido ajudará a alcançar o resultado desejado.

Perguntas que um cientista de dados pode fazer sobre os dados:

Que dados já estão disponíveis para mim?
Quem é o proprietário destes dados?
Quais são as preocupações com a privacidade?
Tenho dados suficientes para resolver este problema?
Os dados têm qualidade aceitável para este problema?
Se descobrir informações adicionais através destes dados, devemos considerar alterar ou redefinir os objetivos?

Processamento

A etapa de processamento do ciclo de vida foca-se em descobrir padrões nos dados, bem como na modelagem. Algumas técnicas utilizadas nesta etapa requerem métodos estatísticos para identificar os padrões. Normalmente, esta seria uma tarefa tediosa para um humano realizar com um grande conjunto de dados, sendo necessário recorrer a computadores para acelerar o processo. Esta etapa também é onde a ciência de dados e o aprendizado de máquina se cruzam. Como aprendeu na primeira lição, o aprendizado de máquina é o processo de construir modelos para compreender os dados. Os modelos são representações das relações entre variáveis nos dados que ajudam a prever resultados.

Técnicas comuns utilizadas nesta etapa são abordadas no currículo de ML para Iniciantes. Siga os links para saber mais sobre elas:

Classificação: Organizar dados em categorias para uso mais eficiente.
Agrupamento: Agrupar dados em grupos semelhantes.
Regressão: Determinar as relações entre variáveis para prever ou estimar valores.

Manutenção

No diagrama do ciclo de vida, pode ter notado que a manutenção está entre a captura e o processamento. A manutenção é um processo contínuo de gestão, armazenamento e segurança dos dados ao longo do projeto e deve ser considerada durante toda a sua duração.

Armazenamento de Dados

As decisões sobre como e onde os dados são armazenados podem influenciar o custo do armazenamento, bem como o desempenho no acesso aos dados. Estas decisões provavelmente não serão tomadas apenas pelo cientista de dados, mas ele pode precisar fazer escolhas sobre como trabalhar com os dados com base em como estão armazenados.

Aqui estão alguns aspetos dos sistemas modernos de armazenamento de dados que podem afetar essas escolhas:

No local vs fora do local vs nuvem pública ou privada

"No local" refere-se a gerir os dados nos seus próprios equipamentos, como possuir um servidor com discos rígidos que armazenam os dados, enquanto "fora do local" depende de equipamentos que não são seus, como um centro de dados. A nuvem pública é uma escolha popular para armazenar dados, pois não exige conhecimento sobre como ou onde exatamente os dados estão armazenados. "Pública" refere-se a uma infraestrutura unificada subjacente que é partilhada por todos os que utilizam a nuvem. Algumas organizações têm políticas de segurança rigorosas que exigem acesso completo ao equipamento onde os dados estão hospedados e, por isso, optam por uma nuvem privada que fornece serviços próprios. Aprenderá mais sobre dados na nuvem em lições futuras.

Dados frios vs dados quentes

Ao treinar os seus modelos, pode precisar de mais dados de treino. Se estiver satisfeito com o seu modelo, mais dados chegarão para que o modelo cumpra o seu propósito. Em qualquer caso, o custo de armazenar e acessar dados aumentará à medida que acumular mais. Separar dados raramente usados, conhecidos como dados frios, de dados frequentemente acessados, conhecidos como dados quentes, pode ser uma opção mais económica de armazenamento, seja através de hardware ou serviços de software. Se for necessário acessar dados frios, pode demorar um pouco mais para recuperá-los em comparação com os dados quentes.

Gestão de Dados

Ao trabalhar com dados, pode descobrir que alguns deles precisam ser limpos utilizando algumas das técnicas abordadas na lição sobre preparação de dados para construir modelos precisos. Quando novos dados chegam, será necessário aplicar as mesmas técnicas para manter a consistência na qualidade. Alguns projetos envolvem o uso de ferramentas automatizadas para limpeza, agregação e compressão antes de os dados serem movidos para o seu local final. O Azure Data Factory é um exemplo de uma dessas ferramentas.

Segurança dos Dados

Um dos principais objetivos de garantir a segurança dos dados é assegurar que aqueles que trabalham com eles têm controlo sobre o que é recolhido e em que contexto está a ser utilizado. Manter os dados seguros envolve limitar o acesso apenas a quem precisa, cumprir as leis e regulamentos locais, bem como manter padrões éticos, como abordado na lição sobre ética.

Aqui estão algumas ações que uma equipa pode tomar com a segurança em mente:

Confirmar que todos os dados estão encriptados
Fornecer aos clientes informações sobre como os seus dados são utilizados
Remover o acesso aos dados de quem deixou o projeto
Permitir que apenas certos membros do projeto alterem os dados

🚀 Desafio

Existem várias versões do Ciclo de Vida da Ciência de Dados, onde cada etapa pode ter nomes diferentes e um número distinto de fases, mas conterá os mesmos processos mencionados nesta lição.

Explore o Ciclo de Vida do Processo de Ciência de Dados em Equipa e o Processo Padrão da Indústria para Mineração de Dados. Nomeie 3 semelhanças e diferenças entre os dois.

Processo de Ciência de Dados em Equipa (TDSP)	Processo Padrão da Indústria para Mineração de Dados (CRISP-DM)

Imagem por Microsoft	Imagem por Data Science Process Alliance

Questionário Pós-Aula

Revisão e Autoestudo

Aplicar o Ciclo de Vida da Ciência de Dados envolve múltiplos papéis e tarefas, onde alguns podem focar-se em partes específicas de cada etapa. O Processo de Ciência de Dados em Equipa fornece alguns recursos que explicam os tipos de papéis e tarefas que alguém pode ter num projeto.

Tarefa

Avaliar um Conjunto de Dados

Aviso Legal:
Este documento foi traduzido utilizando o serviço de tradução automática Co-op Translator. Embora nos esforcemos para garantir a precisão, esteja ciente de que traduções automáticas podem conter erros ou imprecisões. O documento original na sua língua nativa deve ser considerado a fonte oficial. Para informações críticas, recomenda-se a tradução profissional realizada por humanos. Não nos responsabilizamos por quaisquer mal-entendidos ou interpretações incorretas resultantes do uso desta tradução.

10 KiB Raw Blame History