Approximation with activation functions and applications

International audience Function approximation arises in many branches of applied mathematics and computer science, in particular in numerical analysis, in finite element theory and more recently in data sciences domain. From most common approximation we cite, polynomial, Chebychev and Fourier series approximations. In this work we establish some approximations of a continuous function by a series of activation functions. First, we deal with one and two dimensional cases. Then, we generalize the approximation to the multi dimensional case. Examples of applications of these approximations are: interpolation, numerical integration, finite element and neural network. Finally, we will present some numerical results of the examples above. La théorie d’approximation des fonctions couvre de nombreuses branches en mathématiques appliquées, en informatique et en sciences de l’ingénieur, en particulier en analyse numérique, en théorie des éléments finis et plus récemment en sciences des données. Parmi les approximations fortement utilisées nous citons les approximations polynomiale de type Lagrange, Hermite ou au sens de Chebychev. Nous trouvons aussi l’approximation d’une fonction par une séries de Fourier, l’approximation rationnelle...Dans ce travail, nous établissons quelques résultats d’approximations d’une fonction continue par une série de fonctions de type activation. Nous traitons d’abord les cas d’une fonction à une seule puis à deux variables, puis nous généralisons l’approximation au cas multidimensionnel. Nous appliquons ces approximations pour l’interpolation et l’intégration numérique, en éléments finis et en réseau neuronal. Nous donnons pour chaque application quelques résultats numériques.