Perscrutando A Caixa Preta - Ayasdi

11/06/2019 Perscrutando a caixa preta | Ayasdi
Plataforma Parceiros Recursos Empresa Blog Solicite uma demonstraçã
‹Voltar ao Blog
Perscrutando a caixa negra
De Gurjeet Singh
9 de janeiro de 2016
OS DADOS , INTELIGÊNCIA DE MÁQUINA , MACHINE LEARNING , ANÁLISE
PREDITIVA
"O modelo é uma caixa preta?"
Essa é uma questão com a qual muitos cientistas de dados lutam ao se comunicar
com os negócios. Com toda a justiça, há muitas situações de negócios que exigem
que os modelos sejam transparentes, como:
Regulamentos - em muitos setores, como serviços nanceiros e de saúde, os

modelos usados para fazer previsões precisam ser auditados pelos órgãos
reguladores por lei. Exigir que um regulador aprenda sobre algum método
so sticado de aprendizado de máquina não é um bom começo.
Operações - nos casos em que os seres humanos precisam agir sobre o
resultado do modelo. Imagine uma solução de gerenciamento de recusa na área
da saúde - um processador de sinistros muitas vezes precisa ligar para um
sistema hospitalar para discutir uma alegação da qual discordam. Imagine que a
alegação foi marcada como fraudulenta pela seguradora - é muito melhor armar
o processador de reclamações com o resumo rápido de por que o modelo
sinalizou essa alegação como fraudulenta para começar.
Sistemas automatizados - outra situação em que os modelos são usados
extensivamente é quando o volume de transações é esmagador ou o resultado é
Utilizamos cookies para garantir que você tenha a melhor experiência em nosso site. Ao continuar a usar este site, você
passageiro. Imagine um sistema
concorda com o uso automatizado
de cookies. Ok de negociação
Leia mais de alta
https://www.ayasdi.com/blog/bigdata/5191-2/ 1/7
frequência. Um gerente de portfólio precisa entender os modelos por trás de sua

estratégia
Plataforma de negociação
Parceiros para justi
Recursos car o investimento.
Empresa Blog Solicite uma demonstraçã
Nesta postagem do blog, quero discutir uma solução para esse problema: separe o
modelo e a explicação.
Vamos começar entendendo o que é uma caixa preta, a nal? Um modelo de caixa
preta é qualquer modelo que um revisor humano não possa raciocinar. De um modo
geral, os únicos modelos de 'caixa branca' que parecem satisfazer essa restrição
são: árvores de decisão rasa ou modelos lineares esparsos. Ambos os modelos
tendem são bastante simples (por de nição) que você pode explicá-los para um
aluno da oitava série.
Nós realmente precisamos de modelos que são muito mais complicados?
Bem, se você olhar para a linha de frente em qualquer campo, como visão
computacional, processamento de linguagem natural, etc., os modelos que
executam o melhor tendem a ser extremamente complicados ou precisam de
bilhões de parâmetros (especialmente em aprendizado profundo). É su ciente dizer
que, sempre que a alta precisão é uma preocupação, a complexidade do modelo
tende a ser alta.
Em vez de ter que escolher entre alta precisão e alta explicabilidade, isso pode ser
considerado um problema diferente. Há muitas maneiras de fazer isso, mas aqui
está um exemplo simples.
Imagine que recebamos o dataset X que contém N pontos e cada ponto no dataset
é um vetor d- dimensional. Além disso, nos é dada a saída do classi cador para
cada ponto como um vetor binário n- dimensional, f . Vamos dizer que X 0 é o
subconjunto de X, onde f é 0 e X 1 é o subconjunto de X, onde é 1. Aqui está um
algoritmo simples:
Para cada um dos d -dimensões de X , encontrar a sua média e desvio padrão,

chame-o m i e o i para a dimensão de ordem i, respectivamente.
Para cada uma das d- dimensões de X 0 , encontre sua média. Vamos chamá-lo u
i para a dimensão i-th.
concorda com o uso de cookies. Ok Leia mais
Para cada uma das d- dimensões de X 1 , encontre sua média. Vamos chamá-lo v
i para a i-ésima
Plataforma dimensão.
Parceiros Recursos Empresa Blog Solicite uma demonstraçã
Agora, ordenar a lista de colunas, por | u i -v i | / o i
Esse algoritmo retorna uma lista de colunas, classi cadas por sua 'contribuição'
para a saída nal do classi cador.
Este é apenas um exemplo simples com muitas extensões possíveis, como:
Substitua o z-score por um melhor teste estatístico, como o teste kolmogorov-

smirnov.
Estenda o teste para dimensões categóricas.
Use uma pontuação multivariada (como GEMM ).
Use uma árvore de decisão super cial como discriminador (!).
Estenda para uso em clustering tratando diferentes clusters como classes.
Estenda para uso na redução de dimensionalidade, permitindo que o usuário
selecione regiões de saída.
Espero que este breve exemplo demonstre que a complexidade de um modelo não
precisa ser uma barreira para a compreensão de um modelo.
Um último ponto
Uma das razões pelas quais a inteligência de máquina ainda não é difundida dentro
das empresas é que ela não é bem entendida. Nosso desejo de entender é uma
função de con ança. As empresas precisam con ar em seus modelos. À medida
que nossa compreensão da inteligência da máquina aumenta, nossa con ança
aumentará.
Por outro lado, podemos, como sociedade, optar por reduzir nossas exigências de
con ança se os resultados forem muito superiores. É minha convicção pessoal de
que este será o caminho que tomarmos com base nos ganhos extraordinários
apresentados por essas novas abordagens.
Até lá, vamos usar modelos de caixa branca para entender os modelos de caixa
preta.
Se você tiver dúvidas sobre alguns dos mecanismos descritos aqui, envie-me uma
nota @singhgurjeet.
‹ O valor extraordinário dos dados escuros
The Janus Post: Olhando para trás e para frente com os regimes de mercado ›
Se inscrever
Segue
Twitter Facebook
LinkedIn Youtube
Google +
Criando modelos de risco efetivos usando inteligência

de máquina
Baixe Agora
Postagens recentes
Mudando o mundo - um avanço cientí co de cada vez
Usando o Padrão HL7 FHIR para Gerenciamento de Variação Clínica
O duplo Chartis e Forbes
Desa o HealthTech vencedor da Accenture - Como o zemos
Um bom mês
Relacionamentos, Geometria e Inteligência Arti cial
Categorias
AML
Inteligência arti cial
Prêmios
Calcular
Cultura
Dados
Engenharia
Serviços nanceiros
Cuidados de saúde
Ciências da Vida
Utilizamos cookies para
Inteligência garantir que você tenha a melhor experiência em nosso site. Ao continuar a usar este site, você
de Máquina
Aprendizado de Máquina
Notícia
Escritório do diretor de dados
Análise preditiva
Setor público
Topologia
Search Procurar
Links Rápidos tweets recentes
Plataforma @Ayasdi - sex, 7 de jun de 2019 -

Soluções
“As instituições nanceiras precisam pensar nos dados
Recursos
como um ativo e administrá-los como um produto.”
Empresa
Blog @Singhgurjeet na # IIFG20 #AI https://t.co/u3S6TUy35F
Apoio, suporte
Contate-Nos
Contato de mídia
Últimas notícias
Hospital Flagler combina AI, Comitê Médico AI para reduzir a variação clínica e os
para Minimizar a Variação Clínica custos
Cuidados de saúde modernos - 11 DE Médico Semanal - 8 DE MARÇO DE 2019
MARÇO DE 2019
Melhores Práticas de Implementação: O futuro da Wall Street: Fintech 50 2019
Lidando com a Complexidade da IA Forbes - 4 DE FEVEREIRO DE 2019
Healthcare IT News - 27 DE FEVEREIRO DE

2019
© 2019 Ayasdi AI LLC. Todos os direitos reservados.

Termos de serviço Política de Privacidade Termos do piloto

Perscrutando A Caixa Preta - Ayasdi

Загружено:

Сведения о документе

Оригинальное название

Авторское право

Доступные форматы

Поделиться этим документом

Поделиться или встроить документ

Параметры публикации

Этот документ был вам полезен?

Это неприемлемый материал?

Авторское право:

Доступные форматы

Perscrutando A Caixa Preta - Ayasdi

Загружено:

Авторское право:

Доступные форматы

11/06/2019 Perscrutando a caixa preta | Ayasdi

Plataforma Parceiros Recursos Empresa Blog Solicite uma demonstraçã

Perscrutando a caixa negra

"O modelo é uma caixa preta?"

Regulamentos - em muitos setores, como serviços nanceiros e de saúde, os

frequência. Um gerente de portfólio precisa entender os modelos por trás de sua

Nós realmente precisamos de modelos que são muito mais complicados?

Para cada um dos d -dimensões de X , encontrar a sua média e desvio padrão,

Este é apenas um exemplo simples com muitas extensões possíveis, como:

Substitua o z-score por um melhor teste estatístico, como o teste kolmogorov-

‹ O valor extraordinário dos dados escuros

Criando modelos de risco efetivos usando inteligência

Plataforma Parceiros Recursos Empresa Blog Solicite uma demonstraçã

Links Rápidos tweets recentes

Plataforma @Ayasdi - sex, 7 de jun de 2019 -

Healthcare IT News - 27 DE FEVEREIRO DE

© 2019 Ayasdi AI LLC. Todos os direitos reservados.

Plataforma Parceiros Recursos Empresa Blog Solicite uma demonstraçã

Вам также может понравиться