Requisitos previos Necesarios para Leer Libros sobre Redes Neuronales (y entenderlos)

He estado tratando de aprender acerca de las Redes Neuronales desde hace un tiempo, y puedo entender algunos tutoriales básicos en línea, y he sido capaz de obtener a través de porciones de Computación Neuronal - Una Introducción pero incluso allí, estoy vidriando sobre una gran cantidad de las matemáticas, y se vuelve completamente sobre mi cabeza después de los primeros capítulos. Incluso entonces es el menos libro "math-y" que puedo encontrar.

No es que tenga miedo de las matemáticas ni nada, es solo que no he aprendido lo que necesito, y estoy no estoy seguro de lo que necesito exactamente. Actualmente estoy matriculado en mi universidad local, trabajando para ponerme al día en las clases que necesito para ingresar a la EM en Comp. Programa Sci (mi BA está en Negocios / Info. Sys.) y no he llegado muy lejos. De acuerdo con las pequeñas descripciones del curso de la universidad, NN's en realidad están cubiertos en un curso de Ingeniería Eléctrica en el Reconocimiento de Patrones (me parece extraño que este curso es EE), que tiene algunos EE prereq's que no necesito entrar en el MS Comp. Sci. Programa.

Estoy extremadamente interesado en este tema, y sé que eventualmente quiero aprender mucho más sobre él, el problema es que no se lo que necesito saber primero. Aquí hay temas que creo que podría necesitar, pero esto es solo especulación por ignorancia:

  • Cálculo de una sola variable (he tenido Calc I y II, así que creo que estoy cubierto aquí, solo enumerando para completar)
  • Cálculo variable múltiple
  • Álgebra lineal (no he tomado esto formalmente todavía, pero en realidad puede entender muchos de los conceptos de lo que he logrado grok en Wikipedia y otros sitios)
  • Matemáticas discretas (Otro que no he tomado formalmente, pero aprendí una parte de por mi cuenta
  • Teoría de grafos
  • Teoría de la probabilidad
  • Estadísticas bayesianas
  • Diseño de circuitos
  • ¿Otras matemáticas?
  • Otros temas de comp sci

Obviamente hay un componente de neurociencia aquí también, pero en realidad no he tenido ningún problema para entender los libros cuando hablan de ello como aplicado a los NN, en gran parte porque su conceptual

En resumen, ¿puede alguien trazar un camino semi-claro que uno necesita entender realmente, leer un libro y eventualmente implementar Redes Neuronales?

Author: bias, 2008-12-03
Source

4 answers

Si quieres una lista de cursos universitarios que necesitarás para entender el libro, aquí está:

  • Cálculo (I, II y III)
  • Ecuaciones diferenciales
  • Álgebra lineal
  • Estadísticas (o una buena cobertura de Bayes)

Sin embargo, me fue muy bien en mis clases de NN sin diferencias. Eq. y tuve que buscar conceptos que aún no había estudiado.

Usted puede tomar el enfoque de caja negra como arriba, pero si realmente quiere entender las matemáticas y implementación de las redes, tendrás que estudiar. Va a ser una curva de aprendizaje empinada para comprender completamente las redes más avanzadas sin importar lo que hagas. Puedes tomar las clases anteriores primero, o puedes empezar a leer el libro y buscar todo lo que no entiendes en wikipedia, y luego de esos artículos leer lo que tengas que leer para entenderlos, etc. Usted encontrará que, de cualquier manera, usted conseguirá eventual más allá de esa ojeada inicial y las cosas serán más fáciles.

It sería bueno si nos dijeras por qué quieres aprender redes neuronales. No he encontrado un solo uso para ellos en mi carrera profesional, aunque no soy un desarrollador de juegos o desarrollador de telecomunicaciones.

 13
Author: i_am_jorf,
Warning: date(): Invalid date.timezone value 'Europe/Kyiv', we selected the timezone 'UTC' for now. in /var/www/agent_stack/data/www/ajaxhispano.com/template/agent.layouts/content.php on line 61
2009-03-22 00:04:23

No puedes implementar "redes neuronales" end terminarás implementando un tipo específico de NN (por ejemplo, perceptrón). Hay muchos tipos diferentes de NNs, cada uno más adecuado para algún tipo específico de tarea, y cada tipo utiliza algunos conceptos matemáticos (y no solo matemáticos) que son específicamente solo para ese tipo particular. Por ejemplo, las máquinas Boltzmann utilizan conceptos de termodinámica estadística (fundada por Boltzmann).

En cuanto a su pregunta: sin un objetivo claro, no hay incluso" semi-claro") camino.

 8
Author: zvrba,
Warning: date(): Invalid date.timezone value 'Europe/Kyiv', we selected the timezone 'UTC' for now. in /var/www/agent_stack/data/www/ajaxhispano.com/template/agent.layouts/content.php on line 61
2008-12-03 08:02:04

Secundo la idea de zvrba de que te establezcas un objetivo claro. Algunas preguntas orientadoras: a. ¿Desea estudiar las NNs como modelo de redes biológicas o como herramienta computacional? b. ¿Está interesado en su aspecto de aprendizaje? la memoria asociativa? ¿procesamiento de señales? c. ¿Quieres entender la teoría compleja? ¿o lo suficiente para escribir software de simulación?

También, empezaría con algo pequeño: implementa un perceptron en tu lenguaje de programación favorito. Las matemáticas no son tan malas, y probablemente se centrará en sus próximos pasos. Utilice un conjunto de datos de clasificación binaria, por ejemplo UCI's tic-tac-toe endgame.

 7
Author: Yuval F,
Warning: date(): Invalid date.timezone value 'Europe/Kyiv', we selected the timezone 'UTC' for now. in /var/www/agent_stack/data/www/ajaxhispano.com/template/agent.layouts/content.php on line 61
2008-12-03 09:08:43

Para las redes neuronales básicas, las cosas más importantes son:

  • Cálculo

  • Álgebra Lineal

  • Estadísticas Básicas / Probabilidad

Si solo está buscando temas más específicos (dijo que ya tomó Calc, así que lo omitiré), aquí hay algunos temas que serán útiles saber, si no necesariamente directamente aplicables a la construcción de una red neuronal:

  • Solución de Sistemas Lineales de Ecuaciones (aprenderías esto en un curso de Álgebra Lineal)

  • Regresión de mínimos cuadrados

  • Teoría de la optimización

Debe darse cuenta de que hay varios otros métodos que se pueden usar para resolver ciertos problemas junto con las redes neuronales.

A menudo, el aspecto más difícil de resolver un problema es determinar el mejor método a utilizar.

 3
Author: Colin,
Warning: date(): Invalid date.timezone value 'Europe/Kyiv', we selected the timezone 'UTC' for now. in /var/www/agent_stack/data/www/ajaxhispano.com/template/agent.layouts/content.php on line 61
2009-03-22 00:07:12